The execution of the "forward" function in a neural network can change depending on whether the network is being used for inference or training.

During training, the "forward" function is used to compute the network's output for a given input, which is then compared to the true output (i.e. the label) using a loss function. The gradients of the loss with respect to the parameters of the network are then computed using backpropagation, and these gradients are used to update the parameters using an optimization algorithm (such as stochastic gradient descent). During training, the "forward" function may also involve dropout or other forms of regularization to prevent overfitting.

During inference, the "forward" function is used to predict the output of the network for new input data. Unlike during training, there is no need to compute gradients or update parameters, so the "forward" function can be executed more efficiently. During inference, the "forward" function may also involve techniques like batch normalization or pruning to optimize the performance of the network on the specific inference task.

Therefore, the execution of the "forward" function can change depending on whether the network is being used for training or inference. During training, the "forward" function involves computing the output of the network and computing gradients for backpropagation. During inference, the "forward" function is used to predict the output of the network on new input data without computing gradients or updating parameters.
การดำเนินการของฟังก์ชัน "ไปข้างหน้า" ในโครงข่ายประสาทเทียมสามารถเปลี่ยนแปลงได้ ขึ้นอยู่กับว่าเครือข่ายนั้นถูกใช้สำหรับการอนุมานหรือการฝึกอบรม ในระหว่างการฝึก ฟังก์ชัน "ส่งต่อ" ใช้เพื่อคำนวณเอาท์พุตของเครือข่ายสำหรับอินพุตที่กำหนด ซึ่งจากนั้นจะถูกเปรียบเทียบกับเอาท์พุตจริง (เช่น ป้ายกำกับ) โดยใช้ฟังก์ชันการสูญเสีย การไล่ระดับสีของการสูญเสียที่เกี่ยวข้องกับพารามิเตอร์ของเครือข่ายจะถูกคำนวณโดยใช้ backpropagation และการไล่ระดับสีเหล่านี้จะถูกใช้เพื่ออัปเดตพารามิเตอร์โดยใช้อัลกอริธึมการปรับให้เหมาะสม (เช่น การไล่ระดับสีแบบสุ่ม) ในระหว่างการฝึก ฟังก์ชัน "ไปข้างหน้า" อาจเกี่ยวข้องกับการออกกลางคันหรือรูปแบบอื่น ๆ ของการทำให้เป็นมาตรฐานเพื่อป้องกันการโอเวอร์ฟิต ในระหว่างการอนุมาน ฟังก์ชัน "ส่งต่อ" ใช้เพื่อคาดการณ์เอาต์พุตของเครือข่ายสำหรับข้อมูลอินพุตใหม่ ไม่เหมือนระหว่างการฝึก ไม่จำเป็นต้องคำนวณการไล่ระดับสีหรืออัปเดตพารามิเตอร์ ดังนั้นฟังก์ชัน "ไปข้างหน้า" จึงสามารถดำเนินการได้อย่างมีประสิทธิภาพมากขึ้น ในระหว่างการอนุมาน ฟังก์ชัน "ส่งต่อ" อาจเกี่ยวข้องกับเทคนิคต่างๆ เช่น การทำให้เป็นมาตรฐานแบบแบตช์ หรือการตัดออก เพื่อเพิ่มประสิทธิภาพการทำงานของเครือข่ายในงานการอนุมานเฉพาะ ดังนั้น การดำเนินการของฟังก์ชัน "ส่งต่อ" จึงสามารถเปลี่ยนแปลงได้ ขึ้นอยู่กับว่าเครือข่ายนั้นถูกใช้สำหรับการฝึกหรือการอนุมานหรือไม่ ในระหว่างการฝึก ฟังก์ชัน "ไปข้างหน้า" เกี่ยวข้องกับการคำนวณเอาต์พุตของเครือข่ายและการคำนวณการไล่ระดับสีสำหรับการขยายกลับ ในระหว่างการอนุมาน ฟังก์ชัน "ไปข้างหน้า" ใช้เพื่อคาดการณ์เอาต์พุตของเครือข่ายจากข้อมูลอินพุตใหม่โดยไม่ต้องคำนวณการไล่ระดับสีหรืออัปเดตพารามิเตอร์
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence