Han slutade trots att han överlevde en omröstning om ett oppositionsförslag för att avlägsna honom.
Mr Slipper anklagas för sexuella trakasserier av en före detta anställd och för att ha skickat löjliga textmeddelanden, som nu avslöjas i domstolshandlingar.
Hans avgång skulle kunna skada Gillards smala majoritet, som bygger på röster från oberoende parlamentsledamöter.
Slipper hoppade av från oppositionsledaren Tony Abbots liberala parti förra året och blev oberoende.
Han blev snabbt befordrad till talarens icke-röstande roll och befriade sin företrädare - labourmedlem Harry Jenkins - och gav i praktiken Gillard två sätesmajoritet i kammaren.
Hans avgång innebär nu att Gillard är beroende av Slipper som oberoende för att få igenom lagstiftningen.
Slipper verkade kämpa tillbaka tårar i en känslomässig återkomst till kammaren för att tillkännage sitt beslut att avgå och säga att det gjordes med "stor sorg" och beklaga.
Hans avgång följde på en hetsig debatt mellan Gillard och Abbot i tisdags, där Abbot anklagade Slipper för att inte vara en "lämplig och korrekt" person som talman.
På måndagen lämnade domstolshandlingar in som en del av en sextrakasserier stämning som väckts mot honom gav detaljer om ludna sms han påstås ha skickat sin anklagare, som öppet är homosexuell.
Slipper, som är gift, bad tidigare om ursäkt för innehållet i textmeddelandena. Han förnekar också anklagelserna om sexuella trakasserier.
Han hade varit frånvarande från parlamentet sedan april när han frivilligt gick åt sidan medan fallet mot honom utreddes.
Australiens riksdagstalare Peter Slipper har avgått mitt i en fortsatt sexskandal, vilket innebär ett slag mot premiärminister Julia Gillards regering.