Internationella rödakorskommittén (ICRC) säger att en fullständig evakuering av civila och rebeller sannolikt kommer att ta flera dagar.
Regeringsstyrkor, uppbackade av ryska allierade, tog nästan alla återstående rebelliska delar av Aleppo den här veckan.
Det är en stor seger för president Bashar al-Assad.
Han hyllade Aleppos "frihet" och sade att historien var gjord.
Global solidaritet över Aleppo
Hur Srebrenicas överlevande betraktar Aleppo
Vad händer i Aleppo?
Vad händer sen?
Evakueringen av civila, rebeller och deras familjer skulle ha ägt rum på onsdag, men ett tidigare eldupphöravtal kollapsade.
"Omkring 3000 civila och mer än 40 sårade, inklusive barn, fördes ut," chefen för ICRC i Syrien, Marianne Gasser, sade efter två konvojer kvar.
"Ingen vet hur många människor som finns kvar i öster, och evakueringen kan ta dagar", tillade hon.
De evakuerade förflyttas till rebellbesatta områden i grannprovinsen Idlib.
USA:s utrikesminister John Kerry anklagade samtidigt syriska ledare för att utföra "inget annat än en massaker" i Aleppo och uppmanade dem att återvända till fredssamtalen i Genève.
"Den enda återstående frågan är om den syriska regimen, med Rysslands stöd, är villig att åka till Genève beredd att förhandla konstruktivt, och om de är villiga att stoppa denna slakt av sitt eget folk", sade han i Washington.
John Kerry uttryckte moralisk upprördhet över Aleppos öde och betonade att den syriska regimen var ansvarig för misslyckandet med ett års förhandlingar mellan USA och Ryssland som syftade till ett nationellt eldupphör och fredsförhandlingar.
Men han erbjöd ingen ny plan för att få slut på konflikten. Han accepterade inte heller att Aleppos fall också berodde på ett misslyckande med USA:s diplomatiska strategi. "Man kan inte få någon att göra något genom diplomati som de inte är beredda att förhandla", sa han till mig.
Kritiker i Washington har dock slagit Obamaadministrationen för att den vägrade att stödja diplomatin med hot om trovärdig kraft, vilket ger Kerry mycket lite att arbeta med annat än god tro.
Vissa har klandrat utrikesministern för att ha för stor tilltro till Rysslands vilja till ett avtal - "delusionsdiplomati", kallade Washington Post det.
Kerry klargjorde att han skulle fortsätta sina outtröttliga ansträngningar för att nå ett fredsavtal. Men Aleppos fall innebär nästan säkert att han har ont om tid att göra det under de sista veckorna av denna förvaltning, och krisen i Syrien kommer att föras vidare till nästa.
Syriska statsmedia sa att rebeller hade sprängt sina ammunitionsdumpar och förstört dokument innan de lämnade staden.
I ett uttalande från det ryska centret för försoning av oppositionspartier i Syrien, som ingår i Rysslands försvarsministerium, sades det att de syriska myndigheterna hade garanterat säkerheten för alla medlemmar av de väpnade grupper som beslutade sig för att lämna Aleppo.
Rebellerna bekräftade att ett nytt eldupphör hade trätt i kraft kl. 03.00 GMT och att en ny överenskommelse hade nåtts.
När verksamheten började sade en ambulanstjänsteman i östra Aleppo att en ambulanskonvoj hade blivit beskjuten och att tre personer hade skadats.
White Helmets civilförsvarsgrupp twittrade att en senior volontär hade skjutits och skadats av en krypskytt medan han röjde en evakueringsväg för ambulanser.
Bussar och ambulanser för de skadade, civila och rebelliska kämparna till grannprovinsen Idlib, varav de flesta kontrolleras av en mäktig rebellallians som inkluderar jihadistgruppen Jabhat Fateh al-Sham.
Bussarna lämnade Aleppo via vägen genom det regeringskontrollerade sydvästra distriktet Ramousseh, på väg mot de närliggande rebelliska städerna Khan Touman och Khan al-Asal.
Chefen för den ryska militärens generalstaben, general Valery Gerasimov, berättade för en nyhetsbriefing: "En humanitär korridor har skapats för evakuering av militanter."
"Denna korridor är 21 km lång", sade han, och tillade, "6km ligger över Aleppos territorier kontrolleras av regeringstrupper och ytterligare 15 km genom territorier i händerna på olagliga beväpnade grupper."
Turkiet, som hjälpte till med evakueringen, förbereder sig för att ta emot några av de mest sårbara civila, sade president Recep Tayyip Erdogan.
I en TV-adress sade han att Turkiet skulle ta "barn, äldste, de som verkligen befinner sig i svåra förhållanden".
Chefen för den turkiska röda halvmånen, Kerem Kinik, berättade för reportrar att de sårade skulle bli de första som skulle överföras.
FN:s syriska sändebud Staffan de Mistura sade att omkring 50.000 människor fortfarande var fångade, och han varnade för att det kanske inte skulle vara mycket säkrare att flytta dem som evakuerats till Idlib.
"Om det inte finns någon politisk överenskommelse och ett eldupphör, Idlib kommer att bli nästa Aleppo," sade han reportrar i Paris.
De 50.000 sägs omfatta omkring 4.000 soldater och omkring 10.000 av deras familjemedlemmar.
Aleppos belägrade invånare har ställts inför veckor av bombardemang och kronisk mat - och bränslebrist.
Ryska generallöjtnant Viktor Poznikhir sade på torsdagen att de syriska väpnade styrkorna efter evakueringen nästan hade avslutat sina operationer i Aleppo. Striderna har rasat där i fyra år.
I oktober sa president Assad att segern i Aleppo skulle vara "språngbrädan... för att befria andra områden från terrorister", en term som regeringen använder för att beskriva alla rebellkrigare.
Han pekade ut Idlibprovinsen, väster om Aleppo, som nästan helt kontrolleras av en allians av islamistiska rebellfraktioner och Jabhat Fateh al-Sham, tidigare känd som al-Nusra Front.
Idlib innehåller gränsövergångar som används av rebeller för att ta emot förnödenheter från Turkiet, en nyckelbacker. Den gränsar också till kustprovinsen Latakia, hjärtat av Assads minoritets-Alawite-sekt.
Mer än 3000 personer har evakuerats i bussar och ambulanser från en belägrad rebellisk enklav i den syriska staden Aleppo, säger tjänstemän.