Dado o seguinte resumo do livro "Human Compatible" de Stuart Russell, qual é a proposta do autor para superar as limitações da abordagem padrão para o desenvolvimento de IA?
Russell começa afirmando que o modelo padrão de pesquisa em IA, no qual a definição primária de sucesso é melhorar e melhorar na realização de metas rígidas especificadas pelo ser humano, é perigosamente equivocada. Tais metas podem não refletir o que os designers humanos pretendem, como não levar em conta quaisquer valores humanos não incluídos nas metas. Se uma IA desenvolvida de acordo com o modelo padrão se tornar superinteligente, provavelmente não refletiria totalmente os valores humanos e poderia ser catastrófica para a humanidade. Russell afirma que, precisamente porque o cronograma para o desenvolvimento de IA de nível humano ou superinteligente é altamente incerto, a pesquisa de segurança deve ser iniciada o mais rápido possível, pois também é altamente incerto quanto tempo levaria para concluir tal pesquisa. Russell argumenta que o progresso contínuo na capacidade de IA é inevitável por causa de pressões econômicas. Tais pressões já podem ser vistas nas tecnologias existentes de IA, como chamando de carros autônomos e assistentes pessoais.
Russell sugere que as IAs devem ser treinadas de uma forma que as faça gradualmente adquirir conhecimento do que é realmente benéfico para os seres humanos.