Regeringen sade att protesterna mot lagförslaget hade gett ministrarna "mat att tänka på".
Polen har redan bland de strängaste abortlagarna i Europa, och förslaget syftade till att förbjuda alla aborter om inte moderns liv var i fara.
Parlamentsledamöterna röstade nej till förslaget med 352 röster mot 58.
Lagförslaget kom från ett medborgarinitiativ mot abort som samlade omkring 450000 underskrifter. Den stöddes ursprungligen av katolska kyrkan, men biskopar sade då att de inte kunde stödja ett av förslagen, att fängsla kvinnor som gjorde abort.
Polens förbud mot abort
Förslagen stöddes inte av Polens styrande, socialt konservativa lag- och rättsparti (PiS) och parlamentsledamöter fick fria röster. Men många PiS parlamentsledamöter röstade först för att stödja lagförslaget när det gick till parlamentet förra månaden.
Omkring 100.000 människor, mestadels kvinnor, protesterade mot förslagen i städer över hela Polen på måndagen och verkade uppmana PiS att svänga mot lagförslaget, även om partiet främjar katolska värderingar.
Premiärminister Beata Szydlo tog avstånd från en lagändring och vice premiärminister Jaroslaw Gowin flyttade för att försäkra kvinnor på onsdag att ett totalförbud inte skulle komma igenom.
"Abort kommer säkert inte att förbjudas när kvinnan är offer för våldtäkt eller om hennes liv eller hälsa är i fara", insisterade han.
Sedan lag och rättvisa kom till makten förra året har EU kritiserat landet för att ha tagit kontroll över utnämningar av statliga medier och för reformer i Polens författningsdomstol.
Abort är redan till stor del förbjudet i Polen. De enda undantagen är en allvarlig och irreversibel skada på fostret, ett allvarligt hot mot moderns hälsa, eller om graviditeten är ett resultat av våldtäkt eller incest.
Kampanjgruppen Stop Abort ville att förbudet skulle utvidgas till att omfatta fall av våldtäkt och incest. Det enda undantaget skulle ha varit där moderns liv var i fara.
Läkare riskerar redan straff om de utför en olaglig uppsägning. Men de stramare förslagen skulle ha gjort abort straffbart med ett femårigt fängelsestraff.
Till slut var detta ett lagförslag som inte ens katolska kyrkan kunde stödja.
Strax före omröstningen i parlamentet lade Polens biskopar fram ett uttalande där det stod att de, trots att de motsatte sig abort, inte stödde att kvinnor straffas för att de har gjort det.
Det föreslagna förbudet var inte populärt bland de flesta polacker, även om vissa medlemmar av högerpartiet ursprungligen stödde det.
Omfattningen av måndagens protester gav klart och tydligt Lag och rättvisa mat att tänka på, och utbildnings- och vetenskapsminister Jaroslaw Gowin talade om en lektion i ödmjukhet.
Efter omröstningen sade premiärminister Beata Szydlo att en pro-life utbildning kampanj skulle förberedas i stället.
Det verkar som om en 23-årig kompromiss, som endast tillåter abort vid våldtäkt eller incest eller när moderns eller fostrets hälsa är allvarligt hotad, kommer att finnas kvar.
Polens parlament har med överväldigande majoritet röstat för att förkasta ett kontroversiellt lagförslag om ett nästan totalt förbud mot abort.