What is the difference between the dying Relu and the saturation of sigmoidal activation function?
Does Xavier initialization work well when the activation function is a ReLu?
מה ההבדל בין ה-Relu הגוסס לרוויה של פונקציית ההפעלה הסיגמואידית?
האם אתחול Xavier עובד היטב כאשר פונקציית ההפעלה היא ReLu?