51-åringen hade förhandlat om en frigivning från sitt kontrakt efter en spricka med styrelsen över sin budget.
Hughes har varit med Highlanders sedan december 2013 och vann Scottish Cup förra året, klubbens första stora ära.
"John kommer att bli ihågkommen som medlem i ett stort vinnande lag," läsa ett kort uttalande från Inverness CT.
Hughes hade blivit alltmer frustrerad över förlusten av nyckeltrupp medlemmar och talade om hans besvikelse när en strategi från Dundee United blockerades tidigare denna säsong.
Efter att tidigare ha lyckats på Falkirk, Hibernian, Hartlepool och Livingston ersatte han Terry Butcher på Caledonian Stadium.
Förutom att lyfta skotska Cup, Hughes styrde Inverness till en tredje plats i Premiership förra säsongen, med denna kampanj öppnar med sin första smak av europeisk fotboll.
I mars 2014, Inverness nådde League Cup finalen, förlora på straff till Aberdeen.
Inverness - uttalandet innehöll ett budskap till Hughes och sade: " Jag kommer att se tillbaka på min tid i högländerna med äkta tillgivenhet och varm tillgivenhet för klubben, området och samhället.
"Välkomsten jag fick från fansen och svaret jag fick från spelarna under mina två och ett halvt år där kommer att leva länge i minnet liksom allt annat vi delade i några av de banbrytande framgångar vi alla haft tillsammans under den perioden.
"Jag kan lätt försäkra min efterträdare att de kommer att ärva en utmärkt grupp av spelare och till var och en av dem kan jag också säga ett stort tack för att göra min tid med dem så framgångsrik och så minnesvärd - Jag önskar dem och klubben all framgång i framtiden."
Inverness Caledonian Thistle har bekräftat avfärden av direktör John Hughes.