Rédigez un paragraphe sur la gouvernance de l'IA.
Write a paragraph about AI governance.
The AI arms race is heating up, and breakthroughs are happening at an accelerating pace.

The release of ChatGPT by OpenAI represents a profound leap forward in how humans interface with machines, showcasing the startling progress in large language models. Meanwhile generative AI capabilities such as Dall-E, Stable Diffusion, and Midjourney are able to generate highly realistic and detailed images from text descriptions, demonstrating a level of creativity and imagination that was once thought to be exclusively human.

Humans seem fundamentally wired to continuously advance technology and improve our knowledge and capabilities. Also, the human brain tends to think linearly, causing us to underestimate the exponential progress of technology. Companies and nations are incentivized by market forces and geopolitical game theory to pursue better intelligence through the advancement of AI.

The Future of Life Institute recently published Pause Giant AI Experiments: An Open Letter. The letter — with notable signatories including Elon Musk, Steve Wozniak and Andrew Yang — caused a stir, calling for a 6 month pause on advanced AI development:

“Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium.”

Much of the media and public discourse in response to this letter has focused on who signed it and pushing back on the notion that humanity faces an imminent existential threat of artificial superintelligence. Dystopian claims of runaway artificial intelligence seem hyperbolic to many people, and calling for a 6 month moratorium is not realistic. Good luck convincing China to “pause” their efforts in the AI arms race.

But are there no boundaries? Should we proceed with no guidelines?

For example …

Are we comfortable outsourcing decisions to black box AI systems that lack transparency and explainability, making it impossible for humans to understand the reasoning behind decisions?
Should we be worried about the development of AI-powered autonomous weapons that make decisions about the use of lethal force without human input?
Should we be worried about the potential for malicious actors to use AI for nefarious purposes, such as sophisticated propaganda campaigns?
Are our current laws, regulations and political systems equipped to handle the rapid influx of new AI alignment questions that society will grapple with in the very near future?
As AI becomes more advanced, it may become difficult to understand, which could lead to unintended outcomes. AI systems can behave in ways that are unforeseen and difficult to control. The AI alignment problem is a societal challenge that requires collaboration between researchers, engineers, entrepreneurs, policymakers, and the public. It will also require international cooperation between governments and the private sector. This is not just a technical challenge, but also a philosophical and ethical one.

The open letter mentioned above goes on to recommend:

“AI research and development should be refocused on making today’s powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal.”

This is certainly a worthy goal, and it can be achieved by doing AI in the open. What we currently lack is a framework. Society needs a set of procedures and protocols to make the recommendation from The Future of Life Institute actionable.

Jointly, we must consider and debate the pros and cons of many ideas, including but not limited to:

Mandatory disclosure of model details, including training datasets, evaluation methodologies, and known biases
Development of a framework that establishes model monitoring and audit requirements for advanced AI systems
Implementation of laws that impose liability for AI-caused harm
Establishment of a regulatory authority for oversight and tracking of highly capable AI systems
The first step in achieving a productive framework for safe AI development is an open dialogue among the many stakeholders involved, which includes everyone. We must rise above the hyper-politicized discourse that our dishonest and broken media often forces upon us. This topic is too important and the ramifications are too profound. Join me in advocating for an intelligent and respectful conversation on AI — one that solicits input and open debate from a diverse set of voices to help ensure a path forward that is in our collective best interest.
La course à l'armement en matière d'IA s'intensifie et les percées se succèdent à un rythme accéléré.

Le lancement de ChatGPT par OpenAI représente une avancée profonde dans la manière dont les humains interagissent avec les machines, en mettant en évidence les progrès étonnants réalisés dans les grands modèles de langage. Par ailleurs, les capacités d'IA générative telles que Dall-E, Stable Diffusion et Midjourney sont capables de générer des images très réalistes et détaillées à partir de descriptions textuelles, démontrant un niveau de créativité et d'imagination que l'on croyait autrefois exclusivement humain.

L'être humain semble fondamentalement fait pour faire progresser la technologie et améliorer ses connaissances et ses capacités. De plus, le cerveau humain a tendance à penser de manière linéaire, ce qui nous amène à sous-estimer les progrès exponentiels de la technologie. Les forces du marché et la théorie des jeux géopolitiques incitent les entreprises et les nations à rechercher une meilleure intelligence grâce aux progrès de l'IA.

Le Future of Life Institute a récemment publié Pause Giant AI Experiments : Une lettre ouverte. Cette lettre, qui compte parmi ses signataires Elon Musk, Steve Wozniak et Andrew Yang, a fait sensation en appelant à une pause de six mois dans le développement de l'IA avancée :

"Par conséquent, nous demandons à tous les laboratoires d'IA d'interrompre immédiatement, pendant au moins six mois, la formation de systèmes d'IA plus puissants que le GPT-4. Cette pause devrait être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut être mise en place rapidement, les gouvernements devraient intervenir et instituer un moratoire."

Une grande partie du discours médiatique et public en réponse à cette lettre s'est concentrée sur les signataires et sur le rejet de l'idée que l'humanité est confrontée à une menace existentielle imminente de superintelligence artificielle. Les déclarations dystopiques sur l'emballement de l'intelligence artificielle semblent hyperboliques pour beaucoup de gens, et demander un moratoire de six mois n'est pas réaliste. Bonne chance pour convaincre la Chine de "mettre en pause" ses efforts dans la course à l'armement de l'IA.

Mais n'y a-t-il pas de limites ? Devrions-nous procéder sans lignes directrices ?

Par exemple ...

Sommes-nous prêts à confier des décisions à des systèmes d'IA de type "boîte noire" qui manquent de transparence et d'explicabilité, ce qui empêche les humains de comprendre le raisonnement qui sous-tend les décisions ?
Devons-nous nous inquiéter du développement d'armes autonomes alimentées par l'IA qui prennent des décisions sur l'utilisation de la force létale sans l'intervention de l'homme ?
Devons-nous nous inquiéter de la possibilité pour des acteurs malveillants d'utiliser l'IA à des fins malveillantes, telles que des campagnes de propagande sophistiquées ?
Nos lois, réglementations et systèmes politiques actuels sont-ils équipés pour répondre à l'afflux rapide de nouvelles questions sur l'alignement de l'IA auxquelles la société sera confrontée dans un avenir très proche ?
À mesure que l'IA se perfectionne, elle peut devenir difficile à comprendre, ce qui pourrait entraîner des résultats inattendus. Les systèmes d'IA peuvent avoir des comportements imprévus et difficiles à contrôler. Le problème de l'alignement de l'IA est un défi sociétal qui nécessite une collaboration entre les chercheurs, les ingénieurs, les entrepreneurs, les décideurs politiques et le public. Il nécessitera également une coopération internationale entre les gouvernements et le secteur privé. Il ne s'agit pas seulement d'un défi technique, mais aussi d'un défi philosophique et éthique.

La lettre ouverte mentionnée ci-dessus poursuit en recommandant ce qui suit :

"La recherche et le développement en matière d'IA devraient être recentrés sur l'amélioration de la précision, de la sécurité, de l'interprétabilité, de la transparence, de la robustesse, de l'alignement, de la fiabilité et de la loyauté des systèmes puissants et de pointe d'aujourd'hui."

Il s'agit certainement d'un objectif louable, qui peut être atteint en pratiquant l'IA au grand jour. Ce qui nous manque actuellement, c'est un cadre. La société a besoin d'un ensemble de procédures et de protocoles pour rendre la recommandation du Future of Life Institute applicable.

Ensemble, nous devons examiner et débattre des avantages et des inconvénients de nombreuses idées, y compris, mais sans s'y limiter :

La divulgation obligatoire des détails du modèle, y compris les ensembles de données d'entraînement, les méthodologies d'évaluation et les biais connus.
l'élaboration d'un cadre établissant des exigences en matière de contrôle et d'audit des modèles pour les systèmes d'IA avancés
la mise en œuvre de lois imposant une responsabilité pour les dommages causés par l'IA
Mise en place d'une autorité réglementaire chargée de la surveillance et du suivi des systèmes d'IA hautement performants.
La première étape de la mise en place d'un cadre productif pour le développement d'une IA sûre est un dialogue ouvert entre les nombreuses parties prenantes concernées, c'est-à-dire tout le monde. Nous devons nous élever au-dessus du discours hyperpolitisé que nos médias malhonnêtes et défaillants nous imposent souvent. Ce sujet est trop important et les ramifications sont trop profondes. Rejoins-moi pour plaider en faveur d'une conversation intelligente et respectueuse sur l'IA - une conversation qui sollicite des contributions et un débat ouvert de la part d'un ensemble diversifié de voix pour aider à garantir une voie à suivre qui soit dans notre meilleur intérêt collectif.
creative_writing
fr