Fynden gjordes av ett team från Durham University, som undersöker platsen på Midland Road innan den är omutvecklad för hus.
Kvarlevorna tros datera sig till medeltiden, men kan vara romerska.
Utvecklarna Westleigh planerar att bygga 70 bostäder på Midland Road när arkeologerna har grävt färdigt.
Dr Rebecca Casa-Hatton, ledande arkeolog vid Peterborough stadsfullmäktige, sade: "För tillfället antar vi att de kan vara medeltida men vi kan inte bortse från att de kan vara sena romare.
"Det är mycket, mycket trångt så kyrkogården skulle ha varit omfattande."
Hon tillade att arkeologer förväntade sig att finna mänskliga kvarlevor i detta område på grund av liknande sena romerska eller medeltida begravningar som upptäcktes under byggandet av järnvägslinjen under 1800-talet.
"Förhoppningsvis kommer denna utgrävning att kasta ljus över perioden för dessa begravningar och begravningar som finns i det allmänna området", sade hon.
Gary Turner, chef för investeringar och partnerskap i Westleigh, sade: " Upptäckten gjordes för omkring sex veckor sedan, och sedan dess har vi fått tillstånd från justitieministeriet att gräva upp kvarlevorna.
"När kvarlevorna har tagits bort kommer de att analyseras för att ta reda på mer om deras historia."
Omkring 70 människoskelett har upptäckts av arkeologer under en utgrävning vid en före detta fabrik i Peterborough.