四世紀初，東晉政權在建康建立，北方大批南逃的人渡江集結于建康，並進而成為都城的主人。這些從以舊都洛陽為中心南來的人帶來洛陽話，他們在政治和文化方面居於主導地位，這種外來語逐步成為建康的官話，士民在公共場合須說洛陽話。本來建康的土話是吳方言，自從中原來的洛陽話入主以後，經過長期的融合，建康土語逐步被吸收，到南北朝時已基本演變為中原通語。南北朝時的語言學者顏之推雲：“自茲（按指三國魏）厥後，音韻鋒出，各有風土，遞相非笑，指馬之喻，未知孰是。共以帝王都邑，參校方俗，考核古今，為之折衷。榷而量之，獨金陵與洛下耳。”（《顏氏家訓·音辭》）金陵話與洛陽話相提並論，其實金陵話來自洛陽話，當時南北兩大都邑的話是基本相同的，都是高於方言的通語，是在一定程度上可以通行全國的共同語。建康方言自來被稱為南方官話，是在東晉南朝時期奠定基礎的。但是當時南來的人以過江為安，所以大量集中在沿江南岸。江北地區，特別沿江北岸揚州、泰州、如皋一帶，吳語並沒有很快蛻變，直到隋煬帝游江都時，還“好為吳語”。“帝自曉占候蔔相，好為吳語。夜置酒，仰視天文，謂蕭後曰：‘外問大有人圖依（按胡三省注雲：吳人率自稱為依），然儂不失為長城公，卿不失為沈後（胡注：長城公，陳叔寶，叔寶後沈氏），且共樂飲耳’”。（《資治通鑒》卷185）正如王導在建康時好為吳語，可知隋末揚州尚有吳語的存在。