Uma equipe de pesquisadores do centro de pesquisa Cornell Tech desenvolveu um worm de inteligência artificial generativa chamado Morris II, capaz de se propagar entre sistemas e potencialmente comprometer a segurança de dados ou instalar programas maliciosos no processo.
Esta descoberta apresenta novos desafios no campo da segurança cibernética, especialmente em relação a modelos de IA como o ChatGPT da OpenAI e o Gemini do Google.
Características e alcance da inteligência artificial Morris II
Morris II, inspirado no difamado worm de computador Morris de 1988, é capaz de se replicar e se propagar entre sistemas usando mensagens de auto-replicação.
Este worm foi criado pelos pesquisadores Ben Nassi, Stav Cohen e Ron Bitton, que demonstraram seu funcionamento em ambientes de teste associados aos sistemas de e-mail experimental ligados ao ChatGPT, Gemini e LLaVA.
A equipe de pesquisa demonstrou dois métodos de ataque potenciais usando o Morris II. O primeiro envolve a inserção de mensagens de texto que comprometem o banco de dados do sistema de e-mail, resultando na propagação do worm para outros usuários.
O segundo método envolve a incorporação de código malicioso em imagens, o que leva ao reenvio de mensagens maliciosas para outros destinatários.
Chamada para segurança e regulamentação
Embora Morris II ainda não tenha sido observado em ambientes digitais reais, sua existência teórica levanta preocupações sobre a segurança da IA generativa e destaca a necessidade de adotar abordagens de segurança mais sólidas no design de sistemas de inteligência artificial.
Este estudo também destaca a importância de estabelecer regulamentações e protocolos de proteção mais rigorosos para lidar com as possíveis ameaças que a IA generativa poderia representar para a segurança da informação digital.