AIが人間レベルの知能を超えるための大前提は何でしょうか？
もし、人間の知能を増幅させた超人的な知能、あるいは人工知能が誕生したら、人間の問題解決能力や発想力を飛躍的に向上させることができるだろう。このようなAIを「シードAI」と呼びますが、これは、人間の創造主と同等かそれ以上のエンジニアリング能力を持つAIが誕生した場合、そのAIは、自らのソフトウェアやハードウェアを自律的に改良して、より高性能なマシンを設計し、それをまた繰り返すことができる可能性を持っているためなのだ。このような自己改良を繰り返すことで、物理法則や理論計算の上限が来る前に、質的な変化が起こる可能性がある。何度も繰り返すうちに、そのようなAIは人間の認知能力をはるかに超えるようになると推測される。
AIシステムには、再帰的な自己改良の機能が必要なのだ。この機能があれば、AIシステムの開発を加速させることができるのだ。