Je voudrais une courte liste à puces des composants/architectures clés d'un réseau neuronal convolutionnel.
Please give me a short bulleted list of the key components/architectures in a convolutional neural network.
The key components/architecture of a convolutional neural network include:

Convolutional layers: These layers convolve the input matrix and reduce the number of free parameters and allows the network to be deeper.

Pooling layers: These layers reduce the dimensions of data by combining the outputs of neuron clusters at one layer into a single neuron in the next layer.

Fully connected layers: These layers connect every neuron in one layer to every neuron in another layer. 

Receptive field: Each neuron receives input from a restricted area of the previous layer called the neuron's receptive field. In a convolutional layer, each neuron takes input from a larger area in the input than previous layers.

Weights: The vectors of weights and bias are used by the neural's function to compute an output value from input value.
Les principaux composants/architectures d'un réseau neuronal convolutif sont les suivants :

Couches convolutives : Ces couches convoluent la matrice d'entrée et réduisent le nombre de paramètres libres, ce qui permet au réseau d'être plus profond.

Couches de mise en commun : Ces couches réduisent les dimensions des données en combinant les sorties des groupes de neurones d'une couche en un seul neurone dans la couche suivante.

Couches entièrement connectées : Ces couches connectent chaque neurone d'une couche à chaque neurone d'une autre couche.

Champ réceptif : Chaque neurone reçoit des informations provenant d'une zone restreinte de la couche précédente, appelée champ réceptif du neurone. Dans une couche convolutive, chaque neurone reçoit des informations provenant d'une zone plus large que les couches précédentes.

Poids : Les vecteurs de poids et de biais sont utilisés par la fonction neuronale pour calculer une valeur de sortie à partir d'une valeur d'entrée.
summarization
Un réseau neuronal convolutif se compose d'une couche d'entrée, de couches cachées et d'une couche de sortie. Dans tout réseau neuronal feed-forward, les couches intermédiaires sont dites cachées car leurs entrées et sorties sont masquées par la fonction d'activation et la convolution finale. Dans un réseau neuronal convolutif, les couches cachées comprennent des couches qui effectuent des convolutions. Il s'agit généralement d'une couche qui effectue un produit de points du noyau de convolution avec la matrice d'entrée de la couche. Ce produit est généralement le produit intérieur de Frobenius et sa fonction d'activation est généralement ReLU. À mesure que le noyau de convolution glisse le long de la matrice d'entrée de la couche, l'opération de convolution génère une carte de caractéristiques, qui contribue à son tour à l'entrée de la couche suivante. Celle-ci est suivie par d'autres couches telles que les couches de mise en commun, les couches entièrement connectées et les couches de normalisation.

Couches de convolution

Les couches convolutives convoluent l'entrée et transmettent leur résultat à la couche suivante. Ce processus est similaire à la réponse d'un neurone du cortex visuel à un stimulus spécifique. Chaque neurone convolutif ne traite que les données de son champ réceptif. Bien que les réseaux neuronaux feedforward entièrement connectés puissent être utilisés pour apprendre des caractéristiques et classer des données, cette architecture n'est généralement pas pratique pour des entrées plus importantes (par exemple, des images à haute résolution), qui nécessiteraient un nombre massif de neurones parce que chaque pixel est une caractéristique d'entrée pertinente. Une couche entièrement connectée pour une image de taille 100 × 100 comporte 10 000 poids pour chaque neurone de la deuxième couche. La convolution réduit le nombre de paramètres libres, ce qui permet au réseau d'être plus profond. Par exemple, l'utilisation d'une région de tuiles 5 × 5, chacune avec les mêmes poids partagés, ne nécessite que 25 neurones. L'utilisation de poids régularisés sur un nombre réduit de paramètres permet d'éviter les problèmes de disparition des gradients et d'explosion des gradients observés lors de la rétropropagation dans les réseaux neuronaux antérieurs.

Pour accélérer le traitement, les couches convolutives standard peuvent être remplacées par des couches convolutives séparables dans le sens de la profondeur, qui sont basées sur une convolution dans le sens de la profondeur suivie d'une convolution dans le sens du point. La convolution en profondeur est une convolution spatiale appliquée indépendamment sur chaque canal du tenseur d'entrée, tandis que la convolution ponctuelle est une convolution standard limitée à l'utilisation de

Couches de mise en commun
Les réseaux convolutifs peuvent inclure des couches de mise en commun locales et/ou globales en plus des couches convolutives traditionnelles. Les couches de mise en commun réduisent les dimensions des données en combinant les sorties des groupes de neurones d'une couche en un seul neurone dans la couche suivante. La mise en commun locale combine de petites grappes, des tuiles de taille 2 × 2 étant couramment utilisées. La mise en commun globale agit sur tous les neurones de la carte des caractéristiques. Il existe deux types de mise en commun couramment utilisés : la mise en commun maximale et la mise en commun moyenne. Le pooling max utilise la valeur maximale de chaque grappe locale de neurones dans la carte des caractéristiques, tandis que le pooling average prend la valeur moyenne.

Couches entièrement connectées
Les couches entièrement connectées relient chaque neurone d'une couche à chaque neurone d'une autre couche. C'est la même chose qu'un réseau neuronal à perceptron multicouche traditionnel (MLP). La matrice aplatie passe par une couche entièrement connectée pour classer les images.

Champ réceptif
Dans les réseaux neuronaux, chaque neurone reçoit une entrée provenant d'un certain nombre d'emplacements dans la couche précédente. Dans une couche convolutive, chaque neurone ne reçoit des informations que d'une zone restreinte de la couche précédente, appelée champ réceptif du neurone. Cette zone est généralement un carré (par exemple, 5 neurones sur 5). En revanche, dans une couche entièrement connectée, le champ réceptif est l'ensemble de la couche précédente. Ainsi, dans chaque couche convolutive, chaque neurone reçoit des informations provenant d'une zone d'entrée plus grande que celle des couches précédentes. Cela est dû à l'application répétée de la convolution, qui prend en compte la valeur d'un pixel ainsi que les pixels qui l'entourent. Lorsque l'on utilise des couches dilatées, le nombre de pixels dans le champ réceptif reste constant, mais le champ est plus faiblement peuplé à mesure que ses dimensions augmentent lorsque l'on combine l'effet de plusieurs couches.

Pour manipuler la taille du champ réceptif comme on le souhaite, il existe des alternatives à la couche convolutive standard. Par exemple, la convolution atrous ou dilatée élargit la taille du champ réceptif sans augmenter le nombre de paramètres en intercalant des régions visibles et aveugles. En outre, une seule couche convolutionnelle dilatée peut comprendre des filtres avec des rapports de dilatation multiples, ce qui permet d'obtenir une taille de champ réceptif variable.

Poids
Chaque neurone d'un réseau neuronal calcule une valeur de sortie en appliquant une fonction spécifique aux valeurs d'entrée reçues du champ réceptif de la couche précédente. La fonction appliquée aux valeurs d'entrée est déterminée par un vecteur de poids et un biais (généralement des nombres réels). L'apprentissage consiste à ajuster itérativement ces biais et ces poids.

Les vecteurs de poids et de biais sont appelés filtres et représentent des caractéristiques particulières de l'entrée (par exemple, une forme particulière). Les CNN se distinguent par le fait que de nombreux neurones peuvent partager le même filtre. Cela réduit l'empreinte mémoire car un seul biais et un seul vecteur de poids sont utilisés pour tous les champs réceptifs qui partagent ce filtre, alors que chaque champ réceptif a son propre biais et son propre vecteur de poids.
fr