Compte tenu du résumé suivant du livre "Human Compatible" de Stuart Russell, quelle est la proposition de l'auteur pour surmonter les limites de l'approche standard du développement de l'IA ?
Given the following summary of the book "Human Compatible" by Stuart Russell, what is the author's proposal to overcome the limitations of the standard approach for developing AI?
Russell suggests that the AIs should be trained in a way that makes them gradually gain knowledge of what is truly beneficial to humans. AIs developed in this fashion would cooperate with humans while leaving them with a high enough level of autonomy.
Russell suggère que les IA soient formées de manière à ce qu'elles acquièrent progressivement la connaissance de ce qui est réellement bénéfique pour les humains. Les IA développées de cette manière coopéreraient avec les humains tout en leur laissant un niveau d'autonomie suffisamment élevé.
closed_qa
M. Russell commence par affirmer que le modèle standard de la recherche sur l'IA, dans lequel la principale définition du succès consiste à atteindre de mieux en mieux des objectifs rigides spécifiés par l'homme, est dangereusement erroné. Ces objectifs peuvent ne pas refléter les intentions des concepteurs humains, par exemple en ne tenant pas compte des valeurs humaines qui ne sont pas incluses dans les objectifs. Si une IA développée selon le modèle standard devenait superintelligente, elle ne refléterait probablement pas entièrement les valeurs humaines et pourrait être catastrophique pour l'humanité. Russell affirme que c'est précisément parce que le calendrier de développement d'une IA de niveau humain ou superintelligente est très incertain que la recherche sur la sécurité devrait être entamée dès que possible, car le temps nécessaire pour mener à bien cette recherche est lui aussi très incertain.

Russell affirme que la progression continue des capacités de l'IA est inévitable en raison des pressions économiques. Ces pressions sont déjà perceptibles dans le développement des technologies d'IA existantes, telles que les voitures auto-conduites et les logiciels d'assistants personnels. En outre, l'IA de niveau humain pourrait valoir plusieurs milliers de milliards de dollars. M. Russell examine ensuite le débat actuel sur les risques liés à l'IA. Il réfute un certain nombre d'arguments courants qui rejettent les risques de l'IA et attribue leur persistance en grande partie au tribalisme - les chercheurs en IA peuvent considérer les préoccupations liées aux risques de l'IA comme une "attaque" contre leur domaine. M. Russell réaffirme qu'il existe des raisons légitimes de prendre au sérieux les préoccupations liées au risque de l'IA et que les pressions économiques rendent inévitable la poursuite de l'innovation dans le domaine de l'IA.

M. Russell propose ensuite une approche du développement de machines dont on peut prouver qu'elles sont bénéfiques, qui met l'accent sur la déférence à l'égard des êtres humains. Contrairement au modèle standard de l'IA, où l'objectif est rigide et certain, cette approche prévoit que le véritable objectif de l'IA reste incertain, l'IA ne se rapprochant de la certitude qu'au fur et à mesure qu'elle acquiert plus d'informations sur les humains et le monde. Cette incertitude permettrait, idéalement, d'éviter les malentendus catastrophiques sur les préférences humaines et d'encourager la coopération et la communication avec les humains. Russell conclut en appelant à une gouvernance plus stricte de la recherche et du développement de l'IA ainsi qu'à une introspection culturelle sur le degré approprié d'autonomie à conserver dans un monde dominé par l'IA.
fr