Den tidigare horan kommer att ersätta Chris Gibbes, som bekräftade i januari han kommer att bli huvudtränare för Wellington Lions i Nya Zeeland.
Capped åtta gånger av Irland, Clarke var en del av Ulster laget som vann 1999 Heineken Cup.
"Jag är glad att ha denna möjlighet och verkligen glada över nästa utmaning i min karriär," sade Clarke.
Som tränare hjälpte 49-åringen provinsen att vinna 2006 Celtic League-titeln innan han gick med i Irish Rugby Union som högpresterande manager.
Han återvände till Ulster 2012 och blev framåttränare två år senare.
Clarke har också internationell coaching erfarenhet med Irland A och Emerging Irland, med vilka han vann 2015 Tbilisi Cup före Georgien, Italien A och Uruguay.
"Jag ser fram emot utmaningen", tillade Clarke.
"Det är en ambitiös organisation med en stor blandning av erfarenhet och några riktiga talanger som kommer igenom och jag hoppas att jag kan tillföra värde för spelarna, tränarna och ledningen.
"Chris Gibbes har gjort ett bra jobb med att bygga en flock som har potential att gå tå-till-tå med någon och jag är tacksam att ha den plattformen att arbeta från när jag anländer på sommaren."
Ulster forwards tränare Allen Clarke kommer att gå med Ospreys i slutet av säsongen.