Працювала у містечку також музична школа, однокласне училище. У селі Мильчі на початку XVII століття був заснований монастир Різдва Богородиці. Про існування у Мильчі монастиря протягом 230 років зараз свідчить кількаметровий межовий стовп на узвишші пагорба на околиці с. Пирятин. У роки радянсько-польської війни шляхами Дубенщини проходили полки І Кінної Армії під командуванням С.Будьонного та К.Ворошилова, комбрига 11 кавалерійської дивізії С.Патолічева, який похований в с. Мирогоща.