Vittnena sade efter attacken, vid Forest Hill station vid omkring 13:20 GMT, en man som sedan jagade andra människor utanför stationen.
Folk sa att de såg en man attackera en annan på tåget sedan springa ut från stationen skrikande "han ville döda muslimer".
En 38-årig man har gripits misstänkt för att ha orsakat allvarlig kroppsskada och är kvar i polisens förvar.
Tågtrafiken stoppades tillfälligt på linjen.
Polisen sa att de inte behandlade attacken som terrorism, utan som ett hatbrott.
Ambulanstjänstemän sade att offret, som är i 40-årsåldern, behandlades på platsen för en knivskada och fördes till ett sjukhus i södra London.
Han ligger kvar på sjukhus i ett allvarligt, men inte livshotande tillstånd.
Emma Pinder, som var på stationen, sa att en man hade "jagat andra människor utanför stationen med en kniv".
Shellby Curry, 24, från Forest Hill, sa att hon såg en man "vred vad som såg ut att vara en kniv i hans hand" nära stationen och skrek ord som "Muslimer... döda dem alla".
Hon beskrev angriparen som en svart man med kort hår, som hon trodde verkade vara i slutet av 30-talet eller tidigt 40-tal.
Flera personer ringde polisen, som kom 10 minuter senare och höll fast honom, sade miss Curry.
"Jag gick med och någon stannade och sa, 'var försiktig, han har en kniv'. När jag såg mig omkring var han där.
"Jag tog mitt barn och sprang över vägen. När jag såg tillbaka såg jag honom marschera fram och tillbaka och vifta med armen."
Paul Langley, som vädjade till vittnen om den förste utredaren Det Ch Insp, sade: " Detta var ett allvarligt angrepp på en man i fullt dagsljus, och vi är medvetna om att andra passagerare kan ha sett vad som hände eller blivit hotade själva.
"Vi har talat med många vittnen från tåget men om du såg vad som hände och ännu inte har kontaktat polisen, gör det så fort du kan."
Tjänster stoppades på järnvägen men har sedan återupptagits med allvarliga förseningar, sade London Overground. Vägarna runt stationen stängdes också ett tag.
En man har blivit knivhuggen på ett overgroundtåg i sydöstra London.