Як найкращий учень класу в початковій народній школі отримав право безкоштовно вчитися у Вищому початковому міському училищі. Однак з 14 років він був змушений залишити школу, був підсобним робітником, а потім механіком в друкарні. У юнацькі роки захоплювався книгами, шахами і футболом. У віці 16 років Янош Черманек переміг на відкритому шаховому турнірі, влаштованому комуністичною профспілкою перукарів, і був нагороджений угорським перекладом книги Фрідріха Енгельса «Анти-Дюрінг», яка, за його власним визнанням, зробила його стихійним марксистом і навіть «змінила спосіб мислення».