Sexton utsattes för en misstänkt ljumskeskada innan O'Connell fördes bort i slutet av första halvåret.
Rob Kearneys försök, som ledde 9-6 på halvtid, ökade Irlands ledning innan O'Mahony behövde tas bort.
Conor Murray lade till ytterligare ett sent försök när den tappra irländaren satte upp en kvartsfinal med Argentina nästa söndag.
Återupplev åtgärden från spelet på BBC Radio 5 live
Topping Pool D innebär Joe Schmidt sida undvika en sista-åtta möte med världsmästare men skadorna för tre sådana inflytelserika medlemmar i det irländska laget kommer att vara en massiv oro för resten av kampanjen.
Det kommer också att finnas farhågor för att den enastående Sean O'Brien kan stå inför ett citat efter att han verkade slå Frankrike lås Pascal Pape i öppnings minuten av tävlingen.
Med O'Connell pensionering från internationell tjänst efter denna turnering, kommer det att finnas rädsla för att hans Irland karriär kan vara över efter 108 kaps.
Fransmännen, trubbigt som en attackstyrka för det mesta, måste omgruppera för att möta alla svarta i sin kvartsfinal på Millennium Stadium nästa lördag kväll.
Irland visade en anmärkningsvärd beslutsamhet att stå upp mot en enormt fysisk Frankrike-sida.
Den franska, som utlovat, riktade före detta Racing Metro spelaren Sexton och Irland flyga hälften tvingades bort i 25: e minuten efter en tung tackling av Louis Picameles, även om det såg ut som om den irländska spelmakare skadade hans ljumske sparka bollen sekunder tidigare.
O'Connells internationella karriär kan ha tagit slut efter att han föll obekvämt när han rensades ut vid en ruck i första hälften skada-tid, medan O'Mahony tvingades bort 14 minuter in i andra halvan med en annan benskada.
Men det kom fem minuter efter en paus av den magnifika Robbie Henshaw hjälpte till att sätta upp Kearneys avgörande försök.
Sextons ersättare Ian Madigan gjorde en enorm uppvisning efter sin introduktion då han slutligen vann sin strid med Frankrike flyghalva Frederic Michalak.
Irländarna lyckades också överträffa fransmännen, medan andra hälftens framträdanden som ersättare för Iain Henderson och Chris Henry visade djupet i Joe Schmidts trupp.
Men detta djup kan testas till sin gräns nästa helg mot puman.
En stor tidig tackling från Jamie Heaslip på Frankrike full-back Scott Spedding satte tonen för en ben-crunching tävling.
Mediauppspelning stöds inte på den här enheten
Michalak och Spedding missade tidiga chanser att sätta Frankrike framåt, men Sexton knuffade irländarna framåt från 45 meter efter deras första förflyttning till oppositionsterritoriet.
Två långdistanssprängande straff - endera sidan av en annan Sexton tre poäng - jämnade ut tävlingen innan den tårfyllda Irland fluga-halva tvingades bort.
Den komponerade Madigans första åtgärd var att återställa Irlands ledning på 28:e minuten, men irländarna drabbades av andra förödande skadeslag under första hälften av skadetiden efter att Pascal Pape smet in i O'Connell på ett ruckel.
Sent på halva Irland hade Keith Earls slösat bort ett härligt försök efter att ha tagit ett rutinpass efter Tommy Bowe-pausen.
Men de beslutsamma irländarna skulle inte förnekas efter pausen.
Inte för första gången i tävlingen, Henshaw laddade förbi Frankrikes ineffektiva murbräcka centrum Mathieu Bastareaud för att sätta Irland på offensiven och den resulterande scrum avslutades med full-back Kearney finish.
Efter O'Mahonys avgång, en påföljd från Frankrike ersättning Morgan Parra skära den irländska ledningen till 14-9 men den utmärkta Murray 72: a minuten försök förseglade Irlands anmärkningsvärda seger efter Rory Best första körningen för linjen.
Det fanns många man av match utmanarna i Irland laget men Tullow Tank producerade en titanisk display i de mest blåmärken av tävlingar.
Irland flanker gjorde 19 bär i tävlingen och gjorde så många meter i spelet som imponerande vingen Tommy Bowe.
Med tanke på hans olycka kommer Joe Schmidt att be att O'Brien undviker att citera för hans tidiga indiskretion.
Irland tränare Joe Schmidt: "Det kändes som en hund kamp ibland, en riktig snigelfest mellan de två paketen och sedan skulle det blåsa vidöppen med båda uppsättningar av ryggar spelar några riktigt expansiva rugby med bollen kommer att sluta.
"Under de senaste åren, det har varit en en-score spel mellan de två sidorna. Vi visste att det skulle gå direkt till kabeln. Du måste vara tålmodig, lugn och fokuserad och ta tillfället i akt när det kommer och pojkarna gjorde det.
"Det finns många ömma kroppar i omklädningsrummet. Pojkarna var bara fysiskt och känslomässigt dränerade i slutet av det och från denna punkt på det är vad du har att ge när du får chansen att bära den tröjan. "
Frankrike kommer att spela Nya Zeeland i kvartsfinalen på Millennium Stadium, Cardiff, lördagen den 17 oktober, med en 20:00 BST kick-off. Irland möter Argentina på samma plats klockan 13:00 BST söndagen den 18 oktober.
Irland: Rob Kearney; Tommy Bowe, Keith Earls, Robbie Henshaw, Dave Kearney; Johnny Sexton, Conor Murray; Cian Healy, Rory Best, Mike Ross; Devin Toner, Paul O'Connell; Peter O'Mahony, Sean O'Brien, Jamie Heasip.
Ersättningar: Richardt Strauss for Best (73), Jack McGrath for Healy (57), Nathan White for Ross (65), Iain Henderson for O'Connell (40), Chris Henry for O'Mahony (55), Eoin Reddan for Murray (76), Ian Madigan for Sexton (25), Luke Fitzgerald for Earls (62).
Frankrike: Scott Spedding; Noa Nakaitaci, Mathieu Bastareaud, Wesley Fofana, Brice Dulin; Frederic Michalak, Sebastien Tillous-Borde; Eddy Ben Arous, Guilhem Guirado, Rabah Slimani; Pascal Pape, Yoann Maestri; Thierry Dusautior (kapt), Damien Chouly, Louis Picameles.
Ersättningar: Benjamin Kayser för Guiardo (58), Vincent Debaty för Ben Arous (43), Nicolas Mas för Slimani (63), Alexandre Flanquart för Pape (73), Bernard Le Roux för Chouly (55), Morgan Parra för Tillous-Borde (55), Remi Tales för Michalak (55), Alexandre Dumoulin för Bastareaud (62)
Närvaro: 72.163
Domare: Nigel Owens (Wales)
Irland slog Frankrike för att undvika ett kvartsslutligt möte med Nya Zeeland, men drabbades av skador på Johnny Sexton, Paul O'Connell och Peter O'Mahony.