Les modèles d'IA ne manquent pas sur Hugging Face. On en dénombre un de plus à présent. Il s'agit de CroissantLLM, un modèle de langage conçu par les équipes de recherche du laboratoire MICS de CentraleSupélec et par des industriels, dont Illuin Technology.
Le mois dernier, la licorne française Mistral AI présentait Large, son dernier modèle d'IA générative. Et cette annonce a suscité quelques critiques au sein de l'écosystème du numérique. La raison : contrairement aux modèles précédents, Large n'est pas ouvert.
Un modèle issu d'un partenariat académique/industrie
Par ailleurs, à l'occasion du lancement de Large, Mistral AI s'est associé à Microsoft et à son cloud Azure. CroissantLLM se démarque donc sur le plan de l'ouverture et aussi sur celui de la collaboration. Le LLM "est le fruit d'une collaboration étroite entre académie et industrie."
Plusieurs partenaires académiques (Sorbonne Université, INESC-ID, Instituto Superior Técnico, Carnegie Mellon University et Institut DATAIA) sont associés. Des acteurs industriels ont également contribué à la conception du modèle.
Parmi eux, Illuin Technology, Unbabel, Diabolocom et EqualAI, indique Céline Hudelot, la directrice du laboratoire MICS. La collaboration académique/industrielle constitue une des spécificités de CroissantLLM, mais pas la seule.
Ses concepteurs revendiquent ainsi un modèle de langage souverain, ouvert, éthique et frugal - et dont une présentation sera faite le 7 mars à Paris La Défense dans le cadre des Ateliers de l'IA co-organisés par Le Digital Lab de CentraleSupélec et Illuin Technology.
Ouverture des algorithmes aux modèles et jeux de données utilisés
Grâce à ces caractéristiques, les développeurs jugent le LLM adapté aux besoins des entreprises et à leurs processus métiers. De "culture française", mais bilingue car entraîné aussi avec du contenu anglais, le modèle d'IA a été entraîné via la puissance de calcul du supercalculateur Jean Zay.
"Les jeux de données sont également français et publics, donc connus et traçables", précisent ses concepteurs. En outre, l'ouverture est totale et couvre ainsi "des algorithmes aux modèles et jeux de données utilisés."
Au niveau éthique, "l'équipe de recherche a veillé au respect des règles fixées par le récent AI Act". Enfin, sur la frugalité - "sans pour autant faire de concessions sur la vitesse" - le LLM dispose de 1.3B de paramètres.
"Il n'a donc pas besoin d'importantes puissances de calcul pour s'exécuter, ce qui lui permet de tourner sur des smartphones et ordinateurs personnels et pas uniquement en sollicitant plusieurs GPU", soulignent les chercheurs.
Peu gourmand en énergie, CroissantLLM "est le modèle francophone le plus performant pour sa taille" d'après les benchmarks cités par ses créateurs. Il lui reste à présent à trouver sa place sur Hugging Face, qui héberge près de 500.000 modèles.
La dernière version de Claude AI promet des résultats plus rapides, une plus grande précision et une plus grande facilité...
Suivez toute l'actualité de ZDNet sur Google Actualités.