Mental välfärdskommissionen fann äldre patienter fast på avdelningar i månader på Royal Edinburgh Hospital på grund av brist på vård hem platser.
Den fann också patienter kvar i sängen till lunchtid på grund av personalbrist.
NHS Lothian sade brådskande förändringar håller på att genomföras och sjukhuset kommer att vara omutvecklad 2016.
Kommissionen, som förväntar sig att NHS Lothian ska agera på sin rapport, besökte Royal Edinburghs avdelning 14 och Kanaan Ward, där demenspatienter bedöms.
Doktor Donald Lyons, den dåvarande verkställande direktören för kommissionen, skrev till Tim Davidson, NHS Lothians verkställande direktör, om sina resultat i mars.
I brevet hette det: " Vi fann mycket dåliga bevis på att det fanns verksamhet, en allvarlig oro över det stora antalet människor som tycktes bli försenade utsläpp och betydligt dålig vård, tydligen på grund av bristen på personal.
"Jag vill särskilt påpeka för er att på Kanaan Ward upptäckte vi att det fanns två personer som fortfarande låg i sängen vid lunchtid eftersom personalen inte hade haft tid att få upp dem ännu. Detta är inte acceptabelt."
Sjukhuschefer i Edinburgh har fått veta att de måste förbättra vården av demenspatienter på stadens största psykiatriska sjukhus.