Billiga miniatyrversioner av det obemannade flygplan som militären använder kan hamna i fel händer, berättade han för den brittiska Guardian tidningen.
Han föreslog att det skulle sluta med att grannar surrar på varandra med privata drönare.
Han varnade också för risken att terrorister använder den nya tekniken.
Schmidt tros ha nära förbindelser med USA:s president Barack Obama, som han ger råd i frågor som rör vetenskap och teknik.
"Du har en tvist med din granne," sa han till Guardian i en intervju tryckt på lördag.
"Hur skulle du känna dig om din granne gick över och köpte en kommersiell observation drönare som de kan avfyra från sin bakgård. Det flyger över ditt hus hela dagen. Vad skulle du tycka om det?"
Han varnade för mini-drönares potential som terroristvapen och sade: "Jag kommer inte att döma om arméer ska existera, men jag skulle föredra att inte sprida och demokratisera förmågan att utkämpa krig till varje enskild människa."
"Det måste regleras... Det är en sak för regeringar, som har viss legitimitet i vad de gör, men har andra människor att göra det... det kommer inte att hända."
Små drönare, såsom flygande kameror, finns redan tillgängliga över hela världen, och icke-militär övervakning infördes nyligen för att spåra tjuvskyttar i den avlägsna indiska staten Assam.
USA och Israel har under de senaste åren visat vägen genom att använda drönare som vapen såväl som för övervakning.
USA: s Federal Aviation Administration undersöker för närvarande hur kommersiella drönare, eller obemannade flygplan system, kan föras in i USA: s luftrum på ett säkert sätt.
Den inflytelserika chefen för Google, Eric Schmidt, har krävt att civil drönarteknik ska regleras, varning om integritet och säkerhet.