Den 48-årige tog hade varit ansvarig för Posh sedan ersätta Dave Robertson i september och lyfte klubben så högt som play-off platser i januari.
Men de har sedan dess fallit till 14: e i bordet och har förlorat fyra av sina senaste fem matcher.
Assistent Grant McCann tar över för säsongens sista två matcher.
Westley blev tillfrågad av BBC Radio Cambridgeshire om han kände ökad press efter lördagens nederlag och sade: "Jag kommer till jobbet varje dag och känner press, jag satte press på mig själv.
"Jag gillar inte att förlora fotbollsmatcher, men jag kan jobbet här. Jobbet är att bygga långsiktig vinst.
"Just nu är jobbet att få våra unga spelare på planen, att ge dem en chans att lyckas och att växa, och det är vad vi har gjort (mot Scunthorpe).
"Det kommer att finnas lärdomar från alla spelare, och om vi ska bli en framgångsrik klubb nästa år, då behöver vi de unga spelarna att kliva upp på plattan och upplevelsen nu kommer att vara användbar för dem."
Den tidigare Stevenage och Preston chefen började sin karriär på ABAX Stadium med 10 segrar från sina första 14 matcher i alla tävlingar.
Men efter att ha förlorat till West Brom i en FA Cup fjärde omgången respel på straff och januari försäljningen av framåt Conor Washington, fortfarande klubbens bästa målskytt denna säsong med 15, Posh förlorade sex av sina nästa sju liga matcher.
Efter en kort omgång av tre raka segrar doppade klubbens form igen, ledande ordförande Darragh MacAnthony att säga "Jag sysselsätter över 300 personer på Peterborough United, inte en av dessa anställda just nu har ett jobb på sommaren".
Tidigare i veckan beklagade Westley också sin sidas dåliga disciplin - det värsta rekordet i Football League med 104 gula kort och sju röda - säger att det kostade dem spel.
Ett kort uttalande på Peterboroughs webbplats löd: " Klubben vill tacka Graham för hans insatser för fotbollsklubben.
"Ordförande Darragh MacAnthony kommer att ta sig tid att tala med potentiella kandidater för den lediga chefsposten."
League Ena sidan Peterborough United har separerat företag med manager Graham Westley efter lördagens 2-0 nederlag av Scunthorpe United.