Jepson, som dog i augusti, började sin anslutning till klubben på 1960-talet och utsågs till ordförande 2004.
Tjänsten ägde rum på Headley Stadium tidigare.
Rhinos verkställande direktör Gary Hetherington sa: "Harry hade ett underbart liv och rörde vid så många andras liv."
Mr Jepsons kärlek till sporten gick tillbaka till 1920-talet när han först såg Hunslet på deras Parkside Stadium.
Leeds spelare tidigare och närvarande var bland dem som skulle hedra Jepson under tjänsten.
Bland dem som talade under ceremonin fanns Jamie Jones-Buchanan och Tony Currie, medan före detta Leeds Rhinos och Englands kapten Kevin Sinfield läste Rudyard Kiplings dikt 'If'.
Tjänsten avslutades med att Lizzie Jones sjöng Challenge Cup-hymnen 'Abide With Me' när likbilen som bar Mr Jepsons kista lämnade marken för en familjetjänst.
Hetherington sade: " Han kände människor som hade varit inblandade i bildandet av spelet i 1895, och hans död sammanfaller med 121: a årsdagen av spelet han älskade så mycket.
"Han var en Rugby League legend, trots att han aldrig spelar spelet och hans bortgång är så ledsen."
En minnesbok har öppnats för fans i klubbbutiken.
En minnesgudstjänst har ägt rum för att minnas Leeds Rhinos presidents liv och den livslånga rugbyligans fan Harry Jepson OBE, som dog i 96 års ålder.