Jack Marriott slog två försvarare innan han avslutade för att sätta hemmasidan framåt, med Paul Benson lägga den andra med en låg strejk efter intervallet.
Marriott fick sin andra av spelet efter med en komponerad finish.
Aston Villa låntagare Callum Robinson drog ett mål tillbaka för City, men de förlorade för den andra matchen i rad.
Luton manager John Fortfarande:
"Vi spelade mot en bra sida och sade innan matchen att de är mycket flytande med 3-5-2, så vi matchade upp och visste att vi skulle behöva arbeta hårt tidigt för att träna sin rörelse.
"Det är mycket smart och du kan inte coacha det, du måste räkna ut det som du går. När vi gjorde det, utnyttjade vi deras spelare framöver och det första målet var ett klassiskt exempel på det."
Bristol City chef Steve Cotterill:
"Vi var på toppen då gav bort ett fånigt mål, innan Adens (Flint) halkade för den tredje. När den tredje går in, då är det en riktig uppförsbacke kamp.
"Vi behövde få ett annat mål mycket snabbt efter att vi fick det första målet för att verkligen driva på i slutet. Vi har lagt tillräckligt med bollar i lådan ikväll, tillräckligt med bollar över ansiktet av målet, men vi måste sätta dessa chanser bort. "
League Två sida Luton flyttade in i den andra omgången av League Cup med seger över Championship nykomlingar Bristol City.