Батько загинув на фронті. 1932 року родина, рятуючись від Голодомору, переїхала в сусіднє робітниче селище Новотроїцьке, потім — в Оленівські Кар'єри (тепер Докучаєвськ), де Іван Дзюба закінчив середню школу № 1. До 17 років розмовляв російською.