A partir du texte suivant, indique-moi la méthode la plus répandue aujourd'hui pour former des perceptrons multicouches et explique comment elle fonctionne
given the following text, tell me the most popular method for training multi-layer perceptrons today and explain how it works
Today, the most popular method for training multi-layer perceptrons (MLPs) is back-propagation. During backpropagation, the output values are compared with the correct answer to compute the value of some predefined error-function. The error is then fed back through the network. Using this information, the algorithm adjusts the weights of each connection in order to reduce the value of the error function by a small amount. After repeating this process for a sufficiently large number of training cycles, the network will usually converge to a state where the error of the calculations is small. In this case, one would say that the network has learned a certain target function
Aujourd'hui, la méthode la plus populaire pour former des perceptrons multicouches (MLP) est la rétropropagation. Pendant la rétropropagation, les valeurs de sortie sont comparées à la réponse correcte pour calculer la valeur d'une fonction d'erreur prédéfinie. L'erreur est ensuite réinjectée dans le réseau. À l'aide de cette information, l'algorithme ajuste les poids de chaque connexion afin de réduire légèrement la valeur de la fonction d'erreur. Après avoir répété ce processus pendant un nombre suffisamment important de cycles de formation, le réseau converge généralement vers un état où l'erreur de calcul est faible. Dans ce cas, on dira que le réseau a appris une certaine fonction cible
closed_qa
Aujourd'hui, la méthode la plus populaire pour former des perceptrons multicouches (MLP) est la rétropropagation. La terminologie "erreurs de rétropropagation" a été introduite en 1962 par Frank Rosenblatt, mais il ne savait pas comment la mettre en œuvre, bien que Henry J. Kelley ait présenté un précurseur continu de la rétropropagation dès 1960 dans le contexte de la théorie du contrôle. La rétropropagation moderne est en fait le mode inverse général de différenciation automatique de Seppo Linnainmaa (1970) pour les réseaux connectés discrets de fonctions différentiables emboîtées.[Il s'agit d'une application efficace de la règle de la chaîne (dérivée par Gottfried Wilhelm Leibniz en 1673) aux réseaux de nœuds différentiables. En 1982, Paul Werbos a appliqué la rétropropagation aux MLP de la manière qui est devenue la norme. En 1985, David E. Rumelhart et al. ont publié une analyse expérimentale de la technique. De nombreuses améliorations ont été mises en œuvre au cours des décennies suivantes.

Au cours de la rétropropagation, les valeurs de sortie sont comparées à la réponse correcte pour calculer la valeur d'une fonction d'erreur prédéfinie. L'erreur est ensuite renvoyée à travers le réseau. À l'aide de cette information, l'algorithme ajuste les poids de chaque connexion afin de réduire la valeur de la fonction d'erreur d'une certaine quantité. Après avoir répété ce processus pendant un nombre suffisamment important de cycles de formation, le réseau converge généralement vers un état où l'erreur de calcul est faible. Dans ce cas, on dira que le réseau a appris une certaine fonction cible. Pour ajuster correctement les poids, on applique une méthode générale d'optimisation non linéaire appelée descente de gradient, d'après Augustin-Louis Cauchy, qui l'a proposée pour la première fois en 1847. Pour ce faire, le réseau calcule la dérivée de la fonction d'erreur par rapport aux poids du réseau, et modifie les poids de manière à ce que l'erreur diminue (en descendant la surface de la fonction d'erreur). Pour cette raison, la rétro-propagation ne peut être appliquée qu'aux réseaux dont les fonctions d'activation sont différentiables.
fr