アライメントの問題はまだ解決していますか？
2023年の時点で、いいえ。AIシステムの最適なソリューションが意図された人間の価値を学習するための最適なソリューション、またはMESA最適化などの内部アライメントの問題を軽減する方法で最適化問題を堅牢に保証する方法はありません。整理されていないAGIは、人間の価値に対する目標保存を積極的に評価し、その効用機能を継続的に追求するという唯一の目的のためにその能力を迅速に開発する可能性があります。