Den 46-årige har varit på Premiership klubbens coaching personal sedan 2004, tog över som huvudtränare 2009 och blev chef för rugby 2010.
"Det är med stor sorg och sorg som jag lämnar min position. Jag tror fortfarande att jag är rätt person att leda laget," Cockerill sade.
Huvudtränare Aaron Mauger tar över på tillfällig basis.
Tigers är femte i Premiership, 15 poäng på drift av ledare Wasps har förlorat fem av sina 12 liga matcher hittills den här säsongen. De blev slagna av 16-12 av Saracens på nyårsdagen.
Cockerill, som har tillbringat 23 av de senaste 25 åren av sin karriär med Tigers, sade att han " respekterade styrelsens beslut" att göra en förändring de ser som "i klubbens bästa intresse".
Han tillade: " Den här klubben har gjort mig till den person och den tränare jag är i dag, och jag kommer aldrig att glömma vad de har gjort för mig. Jag kommer att sakna att vara en del av Tigers familj."
Förra månaden, efter 18-16 Champions Cup seger över Munster, Cockerill sade rapporter hävdar att han stod inför säcken och som beskrev coaching strukturen på Leicester Tigers som giftiga var "rubbish".
Före detta England och Tigers hora Cockerill tillbringade 10 år med klubben som spelare från 1992 innan de återvände till Welford Road som akademitränare.
Efter två trollformler i mellanklass han utsågs heltid huvudtränare i april 2009, med Tigers vinna Premiership titeln och nå EM-finalen i sin första säsong i rollen.
Leicester har aldrig misslyckats med att nå Premiership semifinalen under Cockerill och vann finalen 2008-09, de var också segerrika 2009-10 och 2012-13.
Tigers ordförande Peter Tom CBE sade: " Vi tackar Richard för hans lojala och hängivna tjänst som spelare, tränare och chef för rugby. Han har en stor passion för klubben och för spelet rugby, och har delat i många massiva tillfällen med Tigers.
"Klubben har alltid ambitioner att utmana de stora utmärkelserna i spelet och det förblir oförändrat men styrelsen anser att detta är rätt tid att göra en förändring."
Som spelare gjorde hora Cockerill 262 framträdanden för Tigers, vann fem ligatitlar, två inhemska koppar, två Heineken Cups och han spelade också 27 gånger för England.
BBC Radio Leicester kommentator och före detta Tigers flyghalva Bleddyn Jones
Jag är inte förvånad. Tigers kan inte stå det faktum att de är i femte position och ganska lite bort från de fyra bästa; de vill vara topp två och kommer inte att komma dit den här säsongen.
De har inte varit där de senaste tre eller fyra säsongerna och det är en av anledningarna till att tigrar motvilligt har varit tvungna att säga adjö till Richard.
Hans redogörelse är oöverträffad. Han är man och pojke med Tigers och om du skär honom i hälften så skulle han vara Tigers färger genom och igenom.
Leicester Tigers har sparkat Richard Cockerill efter nästan åtta år.