32-åringen hade varit i dålig form men gjorde ett dubbelt århundrade för att inspirera sin sidas kamp tillbaka efter att England gjorde 629-6 deklarerat i Kapstaden.
"Jag tror att jag kan vara av större värde som en helt fokuserad fladdermöss och senior spelare vid denna tid," sade Amla.
AB de Villiers kommer att leda Sydafrika i det tredje testet i Johannesburg, som inleds den 14 januari.
Efter att ha utnämnts till efterträdare till Graeme Smith i juni 2014 kaptenerade Amla världens främsta sida i 14 tester.
Han vann fyra och ritade sex men kom under tryck under en 3-0 serie nederlag i Indien.
Amla sa att han hade funderat på att sluta innan serien började mot England, som vann det första testet med 241 körningar i Durban förra veckan.
Fram till sitt maratonförsök på Newlands hade Amla, en veteran av 90 test och 7 108 körningar, inte träffat ett test sekel sedan december 2014.
"Jag känner ärligt en hel del av den kritik som Hashim har mött under de senaste veckorna är mycket hård," sade Sydafrika tränare Russell Domingo.
"Han är en av Sydafrikas största spelare. Det har inte visats tillräckligt med respekt för hans prestationer som spelare."
De Villiers hade väckt tvivel om sin framtid i Test cricket under det första testet på grund av hans upptagna arbetsbörda, och överlämnade wicketkeeping uppgifter till Quinton de Kock för den andra matchen.
Den 31-årige, som redan leder endagssidan, sade: "Det är en otrolig ära för kapten Sydafrika i alla format. Kaptenskapet har uppenbarligen kommit med kort varsel och är förverkligandet av en livslång dröm.
"För tillfället är min prioritet och fokus satt på att leda detta lag till vad som kan vara en minnesvärd serie seger mot England. Denna testgrupp är motiverad och fast besluten att vända våra föreställningar runt och jag ser fram emot att ta upp den utmaningen som kapten. "
England kapten Alastair Cook var ledsen att höra om Amlas avgång.
"Du är under press som kapten för en hel del av tiden," sade Cook.
"Det är alltid sorgligt när någon kliver ner eftersom för kapten ditt land är en enorm ära och ett verkligt privilegium.
"Han kommer att ha sina skäl och jag önskar honom allt gott - han är en riktigt trevlig kille."
Cricket Sydafrikas verkställande direktör Haroon Lorgat sade Amla "fortfarande hade en enorm roll att spela för att forma framgången för vårt team".
Han tillade: " Han är just den typen av människa, och vi är mycket lyckligt lottade över att ha honom i vårt stall.
"Jag vill tacka AB för att du lätt accepterade utmaningen med att bygga upp vårt testteam eftersom vi strävar efter att förbli det bästa laget i världen."
Hashim Amla avgick som Sydafrika kapten omedelbart efter hans sida drog den andra testet mot England.