If we build systems that know that they don’t know what the objective is, then they start to exhibit these behaviors, like asking permission before getting rid of all the oxygen in the atmosphere.
Si construimos sistemas que no conocen cuál es el objetivo, estos comienzan a manifestar comportamientos tales como pedir permiso antes de eliminar todo el oxígeno de la tierra.