У 1925 року став деканом інструментального факультету Харківських державних вищих музично-драматичноих курсів, а з 1926 року став завідувачем курсів. Його дружина, Віра Вікторівна Марачек-Розенштейн, викладала там же на фортепіанному відділенні. З вересня 1927 року Яків Розенштейн почав викладати в Харківському музично-драматичному інституті (нині — Харківський національний університет мистецтв імені Івана Котляревського) — професор класу віолончелі, камерного ансамблю, оркестрового класу, техніки диригування; з 1929 року — проректор з навчальної частини цього інституту.