Написані ним у той період сонати для клавесина були видані й звернули на себе увагу шанувальників музики. Першими великими його творами були дві меси brevis, F-dur і G-dur, написані у 1749 році ще до виходу його з капели собору святого Стефана. У 1750-х роках Гайдн написав цілу низку творів, котрі поклали початок його популярності як композитора: зингшпіль «Кульгавий біс» (був поставлений у 1752 році у Відні та інших містах Австрії, не зберігся до наших днів), дивертисменти і серенади, струнні квартети для музичного гуртка барона Фюрнберга, близько десятка квартетів (1755).