Alfred Otto Gross era figlio unico di Hans Gross, il penalista-criminologo più celebre della monarchia asburgica. Nel 1899 frequenta l'università e si laurea in Medicina e Chirurgia. Consegue poi la specializzazione in Neurologia ed inizia a lavorare come neurologo e psicoterapeuta. Si imbarca come medico di bordo e parte per l'America del Sud, dove conosce e fa uso sperimentale di svariate droghe stupefacenti. Tra il 1901 e il 1902 è assistente medico volontario nelle cliniche psichiatriche di Monaco e Graz rispettivamente di von Gudden e di Gabriel Anton. In quel periodo pubblica gli articoli nella rivista del padre: "Archiv für Kriminalanthropologie und Kriminalistik" (Archivio di antropologia criminale e criminologia), di Lipsia. Nel 1902 pubblica un libro (influenzato da Freud e Jung e dalle teorie contro ogni repressione dell'anarchismo): "La funzione cerebrale secondaria". Sposato con Frieda Schloffer, figlia di un avvocato povero di Graz, ma per niente fedele a lei (ha altri tre figli con tre altre donne, oltre a Peter, nato da Frieda), nel 1906 diventa docente universitario, ma abbandona quasi subito la cattedra per stabilirsi a Monaco, diventando assistente dello psichiatra Emil Kraepelin. Nel 1908 si dimette ufficialmente dall'Università di Graz.