Qual é o principal pré-requisito para uma IA superar a inteligência do nível humano?
Se uma inteligência sobre-humana fosse inventada - seja através da amplificação da inteligência humana ou através da inteligência artificial - ela melhoraria muito as habilidades humanas de resolução de problemas e inventivas. Tal IA é referida como IA semente porque, se uma IA fosse criada com capacidades de engenharia que correspondessem ou superassem as de seus criadores humanos, teria o potencial de melhorar autonomamente seu próprio software e hardware para projetar uma máquina ainda mais capaz, que poderia repetir o processo por sua vez. Esse auto-aperfeiçoamento recorrente poderia acelerar, potencialmente permitindo enormes mudanças qualitativas antes de qualquer limite superior imposto pelas leis da física ou pela computação teórica estabelecida. Especula-se que, ao longo de muitas iterações, tal IA superaria as habilidades cognitivas humanas.
Um sistema de IA precisa ter a capacidade de auto-aperfeiçoamento recursivo. Uma vez disponível, essa capacidade permitiria que o sistema de IA acelerasse seu desenvolvimento a uma taxa rápida.