Kini awọn anfani ti lilo iṣẹ ifilọlẹ ReLU lori iṣẹ sigmoid kilasika ninu awọn nẹtiwọọki iṣan?
1. Àwọn ohun tó ń ṣẹlẹ̀ Ìṣòro tí ó ń mú kí ìyí kúrò: Iye tí ó pọ̀ jùlọ tí ó jẹ́ àtọwọ́dọ́wọ́ iṣẹ́ sigmoid jẹ 0.25, èyí tí ó lè mú kí gbogbo ìyí di kékeré nígbà tí ó bá ń ṣe ìyí padà. Ni idakeji ReLU ni o ni kan duro gradient 1 fun rere inputs. Ìkejì. Iṣiro iṣiro: A le ṣe iṣiro ReLU nipa lilo max ((0, x), ti o munadoko ju awọn iṣẹ ti o pọju lọ ni iṣẹ sigmoid. Ìkẹta. Iyara ìyípadà: a tún ròyìn wípé lílo ReLU gẹ́gẹ́ bí iṣẹ́ ìyípadà nínú àwọn nẹ́wúrọ̀n nẹ́wúrọ̀n máa ń yípadà ní kíákíá ju lílo iṣẹ́ sigmoid.