Han lovade att återvinna miljarder dollar "tolen" under tidigare förvaltningar.
Buhari förde samtal med statsguvernörer om bristen på pengar för att betala statsanställda deras löner.
Han och hans Alla Progressiva Kongressen vann val i mars, som slutade omkring 16 år av styre av det folkdemokratiska partiet.
Han svor ed på mindre än fyra veckor sedan, tog över från Goodluck Jonathan, som hade varit i tjänst sedan 2010.
"Dagarna av straffrihet och brist på ansvar är över", sade han till delstatsguvernörerna.
"De kommande tre månaderna kan vara svårt, men miljarder dollar kan återvinnas, och vi kommer att göra vårt bästa," tillade han.
I en tidigare genomgång med journalister sade han att det var en "försämring" att statsanställda inte hade fått betalt på flera månader.
Afrikanska nyhetsuppdateringar
"Denna dåliga ledning vi befinner oss i - vi behöver verkligen din hjälp för att skydda oss från människor innan de marscherar mot oss," sade han.
Vice ordförande Yemi Osinbajo uppskattar att Nigerias skulder uppgår till omkring 60 miljarder dollar (38 miljarder pund).
Förre finansministern Ngozi Okonjo-Iweala har dock avvisat påståendet, säger att skulden var mycket lägre och det mesta uppstod av stater, snarare än den federala regeringen, AFP nyhetsbyrå rapporter.
Presidenten vann valet på ett löfte att ta itu med korruptionen och leda Nigeria till större välstånd.
Nigeria är Afrikas största oljeproducent, men de flesta av dess medborgare är fattiga.
Nigerias statskassa är "virtuellt tom", har president Muhammedu Buhari sagt.