Але батько мріяв про військову кар'єру сина й віддав його до Полтавського кадетського корпусу, який він закінчив у 1863 році й виїхав на навчання до Санкт-Петербурга. Закінчив Першу Санкт-Петербурзьку військову гімназію та Михайлівську артилерійську академію. У 1870 році військового інженера, штабскапітана Миколу Ярошенка призначили на Петербурзький патронний завод, де він пропрацював понад двадцять років. У 1892 році у званні генералмайора вийшов у відставку.