Killie dumpade Falkirk 4-0 för att vända ett 1-0 första-ben underskott i Premiership play-off sista andra benet i Rugby Park.
Men efter bara en tredje seger i 14 matcher sedan han tog ledningen i februari, Clark sade förändringar behövs nästa säsong.
"Det är ett firande men tinged med en varning", sade han.
Mediauppspelning stöds inte på den här enheten
"Denna klubb har varit loitering i denna position i fyra eller fem år innan jag kom hit. Denna varning måste beaktas. Vi måste ändra mentaliteten.
"Pojkarna har köpt mina metoder och vi har inte fått vad vi förtjänade i vissa spel.  Men den position vi befinner oss i säger mig att det måste finnas en friskhet i gruppen, och det är vad vi kommer att göra."
Clark, som sprang ner touchline i firandet efter det tredje och fjärde målet, tog en scarf från en fläkt vid det första tillfället, uthärdade en känslomässig eftermiddag i hemmet utgrävd.
"När målen var på väg in, det var som vad vi gjorde när vi stannade uppe med Birmingham City [år 2014] och jag trodde aldrig att det skulle upprepas," sade han BBC Skottland.
"Jag visste vad som stod på spel om vi inte fick resultatet.
"Vi kunde inte ha drömt om en bättre start och det lugnade oss lite, men du vet att det aldrig är över med Falkirk."
Kilmarnock strejker Kris Boyd, som gjorde det slutliga målet, erkände en känsla av lättnad på att ha kommit igenom pärsen av en play-off beslutsfattare.
"Det är ett bra tillfälle för tillfället, men det är en du inte vill vara involverad med, och förhoppningsvis aldrig igen", sade han.
"Det har varit en tuff säsong, men vi har visat idag har vi fått några bra spelare och vi är ett lag.  Vi tror att vi kan vara en match för alla i den här divisionen."
Hans kollega framåt Josh Magennis - som kunde vara i Nordirland truppen på väg till Euro 2016 - spelade en inflytelserik roll på hans återkomst från skada, sätta upp två mål och orsaka Falkirk förödelse.
"Att göra det på den sista dagen av säsongen var inte vad vi ville, men ibland är det vad som krävs", sade han.
"Allt föll på plats. Vi lät dem inte andas alls och vi var över dem från första visselpipan."
Falkirk manager Peter Houston medgav sin sida misslyckades med att hantera den tidiga intensiteten hos värdarna, som deras modiga befordran bud kom upp kort.
"När du är två ner efter sju eller så minuter, händelsen verkligen kom till oss," sade han BBC Skottland.
"Det finns en hel del spelare i tårar där inne känsla av att de har svikit fansen.  Men de har varit magnifika hela säsongen och det är inte en dag att kritisera spelarna.
"Vi var involverade i en cupfinal i slutet av förra säsongen och en play-off i slutet av denna.
"Vi måste lära oss när vi är i en sådan position att få det över linjen.
"Vi måste titta på det under den nära säsongen. Vi behöver mer kvalitet och kanske mer fysiskhet i vissa områden om du tittar på oss jämfört med Kilmarnock.
"Vi kommer att omgruppera och se vilken typ av budget vi har att få spelare i."
Kilmarnock manager Lee Clark har varnat klubben måste ändra personal och mentalitet för att undvika ytterligare borstar med nedflyttning från toppflyget.