Since 2001, I have been working on what we would now call the problem of aligning artificial general intelligence: how to shape the preferences and behavior of a powerful artificial mind such that it does not kill everyone.
Desde 2001, he estado trabajando en lo que hoy llamaríamos el problema de la alineación de la inteligencia artificial general: cómo moldear las preferencias y la conducta de una poderosa mente artificial de tal manera que no mate a todo el mundo.