Після того, як 1073 року Великим князем стає Святослав Ярославич, Ярополк разом зі своїм батьком подався до Польщі, згодом до Німеччини, до цісаря Генріха IV, коли ж той не допоміг повернути київський престол, Ярополк вдався до Риму, де зустрівся з папою Григорієм VII, який підтримав Із'яслава і Ярополка. Про клопотання Ярополка перед папою зберігаються документи у Трірському псалтирі, у якому є мініатюрний портрет Ярополка та його дружини Ірини.