Den viktiga omröstningen inriktades på den föreslagna planen på 40 miljoner pund - uppbackad av 50 miljoner pund från affärsmannen Sir Ian Wood - för att omvandla den historiska Union Terrace Gardens.
I en folkomröstning tidigare i år fanns det 45 301 röster för med 41 175 röster emot.
Nya förslag från Independent Alliance-gruppen stöddes av 22, 20 mot och 1 nedlagd röst.
Förbättringar av Union Terrace Gardens och landmärkesbyggnader föreslås i stället.
Efteråt utbyttes det hetsigt mellan några företagsledare som stödde City Garden Project och fullmäktigeledamöter som röstade emot det.
Sir Ians erbjudande på 50 miljoner pund har nu dragits tillbaka. Han sa att han var bestört.
Callum McCaig, ledare för SNP-gruppen, hade krävt att City Garden Project skulle backas upp.
Han sa att han var "bittrigt besviken" på beslutet.
Konservativ Alan Donnelly sade att ändringsförslaget var en "almighty fudge".
Mike Shepherd, ordförande för Friends of Union Terrace Gardens, sade emellertid: " Det råder inget tvivel om att våra rådsmedlemmar fattade rätt beslut.
"Detta är slutet på City Garden Project debacle.
"Union Terrace Gardens är i hjärtat av vår stad. Låt oss vårda dem med den omsorg och uppmärksamhet de förtjänar. Vi kan återställa dem till en plats av stolthet och ära. Låt oss göra det."
Den liberala demokraten Ian Yuill lade ned sin röst.
Flera delegationer hade talat om Aberdeen stadsfullmäktiges fullständiga möte under dagen.
En av de första som talade bland tidigare delegationer var Leo Koot, verkställande direktör för oljeföretaget TAQA Bratani, som sade att Union Terrace Gardens var ett "mörkt hål".
Detta påstående bestreds emellertid av Iain Richardson från Common Good Aberdeen.
Framträdande Aberdeen hotellier Stewart Spence sade att staden behövde för att locka turister, och krävde mer än en gran upp.
Dan McCroskrie, som talade för de unga människor som stöder programmet, sade att det var en möjlighet en gång i livet som skulle bidra till att locka fler ungdomar in i staden.
Kostnaden för den vinnande Granite Web designen var £140m.
Kommunstyrelsens högre koalitionspartner, Labour, hade lovat att skrota planen.
Aberdeens kontroversiella City Garden Project har förkastats efter en rådsdebatt.