AI Hub : un référentiel de modèles d'IA optimisés pour les appareils mobiles
Qualcomm a présenté ses dernières avancées en matière d'IA au Mobile World Congress (MWC) de Barcelone, en Espagne. Ces nouveautés visent à donner aux développeurs les moyens d'agir et révolutionnent l'expérience des utilisateurs sur une large gamme de dispositifs équipés des plateformes Qualcomm, notamment Snapdragon. « Avec Snapdragon 8 Gen 3 pour les smartphones et Snapdragon X Elite pour les PC, nous avons lancé la commercialisation de l'IA à l'échelle de l'appareil », a expliqué Durga Malladi, vice-président senior et directeur général de la planification technologique et des solutions de pointe chez Qualcomm.
« Aujourd'hui, avec Qualcomm AI Hub, nous allons permettre aux développeurs d'exploiter pleinement le potentiel de ces technologies de pointe et de créer des applications captivantes basées sur l'IA. Qualcomm AI Hub offre aux développeurs une bibliothèque complète de modèles d'IA qui leur permet d'intégrer rapidement et facilement des modèles d'IA optimisés à l'avance dans leurs applications, ce qui se traduit par des expériences utilisateur plus rapides, plus fiables et plus privées », a-t-il ajouté. Selon Qualcomm, ces modèles d'IA ont été optimisés pour s'intégrer de manière transparente dans les différentes applications.
La bibliothèque AI Hub comprend actuellement plus de 75 modèles populaires, notamment Whisper, ControlNet, Stable Diffusion et Baichuan 7B. Tous les modèles sont regroupés dans différents moteurs d'exécution et sont optimisés pour exploiter l'accélération matérielle de Qualcomm AI Engine sur tous les cœurs (NPU, CPU et GPU). Selon Qualcomm, ils offrent des temps d'inférence quatre fois plus rapides. Qualcomm indique que les développeurs peuvent rechercher des modèles en fonction de leurs besoins, les télécharger et les intégrer dans leurs applications, ce qui leur permet de gagner du temps et d'économiser des ressources.
AI Hub fournit également des outils et des ressources permettant aux développeurs de personnaliser ces modèles d'IA et de les affiner à l'aide de Qualcomm Neural Processing SDK et AI Model Efficiency Toolkit, tous deux disponibles sur la plateforme. Cette vaste bibliothèque de modèles offre aux développeurs de nouvelles possibilités pour créer des applications innovantes dotées de capacités d'IA améliorées, tout en garantissant des performances optimales de l'appareil. Ces capacités comprennent le traitement du langage naturel, la reconnaissance d'images et de vidéos, etc. En somme, voici les avantages pour les développeurs :
- processus de développement simplifié : la nature préoptimisée des modèles élimine le processus complexe et fastidieux de sélection, d'optimisation et d'intégration des modèles, accélérant ainsi le processus de développement ;
- amélioration des performances : les modèles ajoutés à AI Hub sont méticuleusement optimisés pour garantir une exécution efficace sur les appareils, ce qui se traduit par des performances plus rapides et une consommation de batterie réduite ;
- confidentialité : le traitement de l'IA sur les appareils élimine la nécessité d'envoyer les données dans le cloud, ce qui renforce la confidentialité et la sécurité de l'utilisateur.
Disponibilité et dispositifs pris en charge par la plateforme Qualcomm AI Hub
Les modèles d'IA optimisés sont disponibles dès aujourd'hui sur Qualcomm AI Hub, GitHub et Hugging Face. De nouveaux modèles seront continuellement ajoutés à AI Hub, ainsi que la prise en charge prochaine de nouvelles plateformes et de nouveaux systèmes d'exploitation. Les développeurs peuvent s'inscrire dès aujourd'hui pour exécuter eux-mêmes les modèles sur des dispositifs hébergés dans le cloud basés sur les plateformes de Qualcomm et bénéficier d'un accès anticipé aux nouvelles fonctionnalités et aux nouveaux modèles proposés par AI Hub. Les partenaires de Qualcomm se félicitent de cette approche innovante :
« Nous sommes ravis d'héberger les modèles d'IA de Qualcomm sur Hugging Face. Ces modèles d'IA populaires, optimisés pour l'apprentissage automatique sur appareil et prêts à être utilisés sur les plateformes Snapdragon et Qualcomm, permettront à la prochaine génération de développeurs mobiles et d'applications d'IA de pointe de rendre l'IA plus accessible et abordable pour tous », a déclaré Clément Delangue, cofondateur et PDG de Hugging Face. AI Hub n'est pas réservé aux développeurs expérimentés. Il sert également de plateforme d'apprentissage, avec une documentation complète et des tutoriels pour tous.
Par ailleurs, AI Hub est conçu pour être polyvalent et prendre en charge un large éventail de dispositifs. Il s'agit notamment des appareils équipés des plateformes Snapdragon et Qualcomm, qui sont très répandues dans le paysage technologique actuel. AI Hub étend sa prise en charge aux PC de nouvelle génération, offrant des capacités de calcul améliorées. Il s'adresse également aux smartphones, ce qui permet d'améliorer les performances de l'IA sur l'appareil. En outre, il prend en charge les véhicules définis par logiciel, les appareils de l'Internet des objets, ouvrant la voie à des applications avancées dans ces domaines.
Cette large prise en charge des plateformes souligne l'engagement de Qualcomm à encourager l'innovation et à améliorer l'expérience des utilisateurs dans diverses catégories de périphériques. Selon les analystes, AI Hub représente une avancée significative dans le domaine du développement de l'IA sur les appareils. En simplifiant le processus d'intégration des fonctionnalités d'IA, il permet aux développeurs de créer des applications innovantes qui exploitent la puissance de l'IA tout en garantissant des performances efficaces et le respect de la vie privée de l'utilisateur. Il pourrait jouer un rôle essentiel dans l'avenir de l'IA.
« Alors que le paysage de l'IA continue d'évoluer, AI Hub est prêt à jouer un rôle essentiel dans l'élaboration de l'avenir des expériences d'IA sur les appareils mobiles et périphériques », a écrit un critique. Enfin, lors du MWC de Barcelone, Qualcomm AI Research a également présenté un grand modèle multimodal et la personnalisation de grands modèles de vision fonctionnant sur des smartphones Android et des PC Windows.
Pour la première fois, Qualcomm AI Research a également démontré comment un assistant de langage et de vision de grande taille (LLaVA) - un modèle multimodal de grande taille (LMM) de plus de 7 milliards de paramètres qui peut accepter plusieurs types d'entrées de données, y compris du texte et des images, et générer des conversations avec un assistant d'IA à propos d'une image - peut fonctionner sur un téléphone Android.
Source : Qualcomm AI Hub
Et vous ?
Quel est votre avis sur le sujet ?
Que pensez-vous de la plateforme Qualcomm AI Hub ?
Quels impacts pourrait-elle avoir sur les développeurs et l'avenir de l'IA ?
Voir aussi
OpenAI lance GPT Store pour permettre aux utilisateurs de partager des chatbots personnalisés et être potentiellement rémunérés en fonction de « l'engagement des utilisateurs avec leurs GPT »
Amazon annonce la création d'une plateforme d'IA appelée "Bedrock" afin de rivaliser avec OpenAI, elle offre un accès aux API des modèles d'IA des entreprises telles que Stability AI et Anthropic
Anthropic, une startup soutenue par Google, lance la suite de modèles d'IA "Claude 3", le modèle Claude 3 Opus surpassant les modèles concurrents GPT-4 et Gemini 1.0 Ultra