Stephen Doughty vann platsen med 9,193 röster, en majoritet på 5.334 över de konservativa. Lib Dems var tredje, med Plaid Cymru fjärde.
Valdeltagandet var 25,65 % - från mer än 60 % vid 2010 års allmänna val.
Mr Doughty efterträder Alun Michael, som avstod efter 25 år som parlamentsledamot för att ställa upp i valet av polis och polischef.
Den nya riksdagsledamoten slog sju andra kandidater för att behålla sätet för Labour.
Doughty, tidigare chef för Oxfam Cymru, sade i sitt godtagandetal att hans seger var en "domination" av den brittiska regeringens politik och prioriteringar, särskilt på områden som förslag till regional lön.
Han efterlyste en starkare reglering av banker och en "större känsla av gemenskap och samhälle", med större tonvikt på rättvisa.
Doughty hyllade också tidigare innehavare av det södra sätet i Cardiff, däribland f.d. premiärminister Jim Callaghan och f.d. walesiska förstesekreterare Alun Michael, och lovade att tjäna sina väljare med ödmjukhet.
Labour har haft sitt säte sedan det inrättades 1983 och partiets representation av södra Cardiff i parlamentet har varit obruten sedan Callaghan först valdes till parlamentsledamot 1945.
Cardiff South och Penarth omfattar innerstadsområden som Grangetown och Butetown, den ombyggda strandpromenaden runt Cardiff Bay och staden Penarth i Vale Glamorgan.
Dess 78.000 väljare gör det till den största platsen i Wales när det gäller väljare.
Parlamentariska val ägde också rum på torsdagssätena Corby och Manchester Central.
Och val hölls också för den nyskapade polisen och kriminalpoliserna hölls för alla 41 styrkor i England och Wales utanför London.
Labour har efter ett val hållit fast vid Cardiff South och Penarth-sätet i parlamentet.