Escribe un párrafo sobre la gobernanza de la IA.
Write a paragraph about AI governance.
The AI arms race is heating up, and breakthroughs are happening at an accelerating pace.

The release of ChatGPT by OpenAI represents a profound leap forward in how humans interface with machines, showcasing the startling progress in large language models. Meanwhile generative AI capabilities such as Dall-E, Stable Diffusion, and Midjourney are able to generate highly realistic and detailed images from text descriptions, demonstrating a level of creativity and imagination that was once thought to be exclusively human.

Humans seem fundamentally wired to continuously advance technology and improve our knowledge and capabilities. Also, the human brain tends to think linearly, causing us to underestimate the exponential progress of technology. Companies and nations are incentivized by market forces and geopolitical game theory to pursue better intelligence through the advancement of AI.

The Future of Life Institute recently published Pause Giant AI Experiments: An Open Letter. The letter — with notable signatories including Elon Musk, Steve Wozniak and Andrew Yang — caused a stir, calling for a 6 month pause on advanced AI development:

“Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium.”

Much of the media and public discourse in response to this letter has focused on who signed it and pushing back on the notion that humanity faces an imminent existential threat of artificial superintelligence. Dystopian claims of runaway artificial intelligence seem hyperbolic to many people, and calling for a 6 month moratorium is not realistic. Good luck convincing China to “pause” their efforts in the AI arms race.

But are there no boundaries? Should we proceed with no guidelines?

For example …

Are we comfortable outsourcing decisions to black box AI systems that lack transparency and explainability, making it impossible for humans to understand the reasoning behind decisions?
Should we be worried about the development of AI-powered autonomous weapons that make decisions about the use of lethal force without human input?
Should we be worried about the potential for malicious actors to use AI for nefarious purposes, such as sophisticated propaganda campaigns?
Are our current laws, regulations and political systems equipped to handle the rapid influx of new AI alignment questions that society will grapple with in the very near future?
As AI becomes more advanced, it may become difficult to understand, which could lead to unintended outcomes. AI systems can behave in ways that are unforeseen and difficult to control. The AI alignment problem is a societal challenge that requires collaboration between researchers, engineers, entrepreneurs, policymakers, and the public. It will also require international cooperation between governments and the private sector. This is not just a technical challenge, but also a philosophical and ethical one.

The open letter mentioned above goes on to recommend:

“AI research and development should be refocused on making today’s powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal.”

This is certainly a worthy goal, and it can be achieved by doing AI in the open. What we currently lack is a framework. Society needs a set of procedures and protocols to make the recommendation from The Future of Life Institute actionable.

Jointly, we must consider and debate the pros and cons of many ideas, including but not limited to:

Mandatory disclosure of model details, including training datasets, evaluation methodologies, and known biases
Development of a framework that establishes model monitoring and audit requirements for advanced AI systems
Implementation of laws that impose liability for AI-caused harm
Establishment of a regulatory authority for oversight and tracking of highly capable AI systems
The first step in achieving a productive framework for safe AI development is an open dialogue among the many stakeholders involved, which includes everyone. We must rise above the hyper-politicized discourse that our dishonest and broken media often forces upon us. This topic is too important and the ramifications are too profound. Join me in advocating for an intelligent and respectful conversation on AI — one that solicits input and open debate from a diverse set of voices to help ensure a path forward that is in our collective best interest.
La carrera armamentística de la IA se está intensificando, y los avances se producen a un ritmo acelerado.

El lanzamiento de ChatGPT por OpenAI representa un profundo salto adelante en la forma en que los seres humanos interactúan con las máquinas, mostrando el asombroso progreso de los grandes modelos lingüísticos. Mientras tanto, capacidades de IA generativa como Dall-E, Stable Diffusion y Midjourney son capaces de generar imágenes muy realistas y detalladas a partir de descripciones de texto, demostrando un nivel de creatividad e imaginación que antes se creía exclusivamente humano.

Los humanos parecemos estar fundamentalmente programados para hacer avanzar continuamente la tecnología y mejorar nuestros conocimientos y capacidades. Además, el cerebro humano tiende a pensar linealmente, lo que hace que subestimemos el progreso exponencial de la tecnología. Las empresas y las naciones están incentivadas por las fuerzas del mercado y la teoría del juego geopolítico para perseguir una mejor inteligencia mediante el avance de la IA.

El Instituto del Futuro de la Vida ha publicado recientemente Pausa a los Experimentos Gigantes de IA: Una Carta Abierta. La carta -con notables firmantes como Elon Musk, Steve Wozniak y Andrew Yang- causó un gran revuelo, pues pedía una pausa de 6 meses en el desarrollo avanzado de la IA:

"Por lo tanto, pedimos a todos los laboratorios de IA que pongan inmediatamente en pausa, durante al menos 6 meses, el entrenamiento de sistemas de IA más potentes que la GPT-4. Esta pausa debe ser pública y verificable. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si dicha pausa no puede realizarse rápidamente, los gobiernos deberían intervenir e instituir una moratoria."

Gran parte del discurso público y de los medios de comunicación en respuesta a esta carta se ha centrado en quién la firmó y en rebatir la idea de que la humanidad se enfrenta a una amenaza existencial inminente de superinteligencia artificial. Las afirmaciones distópicas de una inteligencia artificial desbocada parecen hiperbólicas para mucha gente, y pedir una moratoria de 6 meses no es realista. Buena suerte convenciendo a China de que "ponga en pausa" sus esfuerzos en la carrera armamentística de la IA.

Pero, ¿no hay límites? ¿Deberíamos proceder sin directrices?

Por ejemplo...

¿Nos sentimos cómodos subcontratando decisiones a sistemas de IA de caja negra que carecen de transparencia y explicabilidad, haciendo imposible que los humanos comprendan el razonamiento que hay detrás de las decisiones?
¿Debería preocuparnos el desarrollo de armas autónomas impulsadas por IA que tomen decisiones sobre el uso de fuerza letal sin intervención humana?
¿Debería preocuparnos la posibilidad de que agentes maliciosos utilicen la IA con fines nefastos, como sofisticadas campañas de propaganda?
¿Están nuestras leyes, reglamentos y sistemas políticos actuales equipados para manejar la rápida afluencia de nuevas cuestiones de alineación de la IA con las que la sociedad tendrá que lidiar en un futuro muy próximo?
A medida que la IA se hace más avanzada, puede resultar difícil de entender, lo que podría conducir a resultados no deseados. Los sistemas de IA pueden comportarse de formas imprevistas y difíciles de controlar. El problema de la alineación de la IA es un reto social que requiere la colaboración entre investigadores, ingenieros, empresarios, responsables políticos y el público. También requerirá la cooperación internacional entre los gobiernos y el sector privado. No se trata sólo de un reto técnico, sino también filosófico y ético.

La carta abierta antes mencionada sigue recomendando:

"La investigación y el desarrollo de la IA deberían volver a centrarse en hacer que los potentes sistemas actuales de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, dignos de confianza y leales".

Éste es sin duda un objetivo loable, y puede lograrse haciendo IA al aire libre. Lo que nos falta actualmente es un marco. La sociedad necesita un conjunto de procedimientos y protocolos que hagan factible la recomendación del Instituto del Futuro de la Vida.

Conjuntamente, debemos considerar y debatir los pros y los contras de muchas ideas, entre otras:

Divulgación obligatoria de los detalles de los modelos, incluidos los conjuntos de datos de entrenamiento, las metodologías de evaluación y los sesgos conocidos
Desarrollo de un marco que establezca requisitos de supervisión y auditoría de modelos para los sistemas avanzados de IA
Aplicación de leyes que impongan responsabilidad por los daños causados por la IA
Establecimiento de una autoridad reguladora para la supervisión y el seguimiento de los sistemas de IA altamente capaces
El primer paso para lograr un marco productivo para el desarrollo seguro de la IA es un diálogo abierto entre las numerosas partes implicadas, que incluya a todos. Debemos elevarnos por encima del discurso hiperpolitizado al que a menudo nos obligan nuestros deshonestos y rotos medios de comunicación. Este tema es demasiado importante y sus ramificaciones son demasiado profundas. Únete a mí en la defensa de una conversación inteligente y respetuosa sobre la IA, que solicite la aportación y el debate abierto de un conjunto diverso de voces para ayudar a garantizar un camino hacia adelante que redunde en nuestro interés colectivo.
creative_writing
es