Quelle est la définition formelle d'un grand modèle linguistique ?
What is the formal definition of a large language model?
The term large language model (LLM) does not have a formal definition. However, it often refers to deep learning models having a parameter count on the order of billions or more.
Le terme "grand modèle de langage" (LLM) n'a pas de définition formelle. Cependant, il fait souvent référence aux modèles d'apprentissage profond dont le nombre de paramètres est de l'ordre de plusieurs milliards ou plus.
closed_qa
Bien que le terme grand modèle de langage n'ait pas de définition formelle, il fait souvent référence à des modèles d'apprentissage profond ayant un nombre de paramètres de l'ordre de milliards ou plus. Les LLM sont des modèles à usage général qui excellent dans un large éventail de tâches, par opposition à ceux qui sont formés pour une tâche spécifique (telle que l'analyse des sentiments, la reconnaissance des entités nommées ou le raisonnement mathématique).[La compétence avec laquelle ils accomplissent des tâches et la gamme de tâches dont ils sont capables semblent être fonction de la quantité de ressources (données, taille des paramètres, puissance de calcul) qui leur sont consacrées, d'une manière qui ne dépend pas de percées supplémentaires dans la conception.

Bien qu'entraînés sur des tâches simples du type prédire le mot suivant dans une phrase, les modèles de langage neuronaux avec un entraînement et un nombre de paramètres suffisants sont capables de capturer une grande partie de la syntaxe et de la sémantique du langage humain. En outre, les grands modèles de langage font preuve d'une connaissance générale considérable du monde et sont capables de "mémoriser" une grande quantité de faits au cours de la formation.
fr