Imaginez un avenir où les machines penseront comme nous, comprendront comme nous et dépasseront peut-être même nos propres capacités intellectuelles. Il ne s'agit pas d'une scène tirée d'un film de science-fiction, mais d'un objectif que des experts comme Scott Aaronson, de OpenAI, s'efforcent d'atteindre.
Aaronson, figure emblématique de l'informatique quantique, s'est tourné vers une nouvelle frontière : l'intelligence générale artificielle (AGI). Il s'agit du type d'intelligence qui pourrait égaler, voire dépasser, la puissance du cerveau humain. Wes Roth se penche sur cette nouvelle technologie et sur ce que nous pouvons attendre dans un proche avenir de OpenAI et d'autres acteurs qui développent l'AGI et les lois d'échelonnement des réseaux neuronaux.
Chez OpenAI, Scott Aaronson est profondément impliqué dans la quête de l'AGI. Il s'intéresse à la situation dans son ensemble et tente de déterminer comment s'assurer que ces puissants systèmes d'IA ne causent pas accidentellement des dommages. C'est une préoccupation majeure pour ceux qui travaillent dans le domaine de l'IA, car plus ces systèmes deviennent complexes, plus les risques augmentent.
Aaronson établit un lien entre le fonctionnement de notre cerveau et celui des réseaux neuronaux de l'IA. Selon lui, la complexité de l'IA pourrait un jour être comparable à celle du cerveau humain, qui compte environ 100 000 milliards de synapses. Cette idée est fascinante car elle suggère que les machines pourraient potentiellement penser et apprendre comme nous.
OpenAI AGI
Un article rédigé par Aaronson a fait couler beaucoup d'encre. Il y est question de la création d'un modèle d'IA comportant 100 billions de paramètres. C'est un chiffre énorme, qui a suscité de nombreux débats. Les gens se demandent s'il est possible de construire un tel modèle et ce que cela signifierait pour l'avenir de l'IA.
L'une des grandes questions que pose Aaronson est de savoir si les systèmes d'IA tels que GPT comprennent réellement ce qu'ils font ou s'ils sont simplement bons à faire semblant. Il s'agit d'une distinction importante, car la véritable compréhension est un grand pas vers l'IA.
Lois de mise à l'échelle des réseaux neuronaux
Mais, Aaronson ne se contente pas de critiquer le travail des autres : il contribue également à l'élaboration d'un framework mathématique destiné à rendre l'IA plus sûre. Ce cadre vise à prédire et à prévenir les risques liés aux systèmes d'IA les plus avancés. La manière dont le nombre de paramètres d'un système d'IA affecte ses performances suscite beaucoup d'intérêt. Certains pensent qu'il faut un certain nombre de paramètres pour qu'une IA puisse agir comme un humain. Si c'est le cas, l'IA est peut-être possible depuis longtemps, mais nous ne disposons pas de la puissance de calcul ou des données nécessaires pour y parvenir.
Aaronson réfléchit également à ce que signifierait pour l'IA d'atteindre la complexité du cerveau d'un chat. Cela ne semble pas grand-chose, mais ce serait un grand pas en avant pour les capacités de l'IA. Il y a aussi l'idée de l'IA transformatrice (TII). Il s'agit de l'IA qui pourrait prendre en charge des emplois occupés par des personnes éloignées. Il s'agit d'une question importante car elle pourrait modifier des secteurs entiers et affecter des emplois dans le monde entier.
Les idées divergent quant au nombre de paramètres dont une IA a besoin pour atteindre l'AGI. Ces estimations sont basées sur des recherches en cours et sur une meilleure compréhension de la manière dont les réseaux neuronaux se développent et évoluent. Les travaux de Scott Aaronson sur la complexité informatique de l'optique linéaire contribuent à mettre en lumière ce qui est nécessaire à l'AGI.
Les idées de Scott Aaronson nous donnent un aperçu de l'état actuel de la recherche sur l'AGI. La façon dont les paramètres des réseaux neuronaux évoluent et les questions éthiques liées au développement de l'IA sont au cœur de ce domaine en pleine évolution. Alors que nous repoussons les limites de l'IA, les conversations entre des experts comme Aaronson et la communauté de l'IA au sens large joueront un rôle crucial dans l'élaboration de ce que sera l'AGI à l'avenir.