Melemo ea ho sebelisa mosebetsi oa ho kenya tšebetsong ReLU ke efe ho feta mosebetsi o tloaelehileng oa sigmoid marang-rang a methapo ea kutlo?
1. Ho se be teng. Bothata ba ho nyamela ha gradient: Boleng bo boholo ba sehlahisoa sa mosebetsi oa sigmoid ke 0.25, e ka lebisang ho li-gradient tse felletseng ho ba nyane haholo nakong ea ho ata ha morao. Ho fapana le moo, ReLU e na le gradient e sa fetoheng ea 1 bakeng sa lintho tse kenang tse ntle. 2. Ho se be teng. Ho sebetsa hantle: ReLU e ka baloa ho sebelisoa max ((0, x), e sebetsang hantle ho feta ts'ebetso ea exponential ho sigmoid function. 3. Ho se be teng. Lebelo la ho kopana: ho boetse ho tlalehiloe hore ho sebelisa ReLU e le mosebetsi oa ts'ebetso ho marang-rang a methapo ea kutlo ho kopana kapele ho feta ho sebelisa mosebetsi oa sigmoid.