O argumento do quarto chinês
Imagine um homem sentado em uma sala com instruções semelhantes às de um computador sobre como responder às instruções chinesas. O homem não fala chinês, mas pode fornecer respostas corretas a qualquer solicitação em chinês que receber, simplesmente seguindo as instruções na sala, que são puramente baseadas em como manipular os caracteres chineses. Agora imagine alguém passando pedaços de papel com perguntas escritas em chinês por baixo da porta, sem saber quem está dentro da sala. À medida que as respostas corretas são devolvidas, a pessoa de fora pode presumir que deve haver alguém dentro da sala que fala chinês, mesmo que o homem não entenda uma palavra. O programa, portanto, permite que a pessoa presente na sala passe no teste de Turing.
Este é o Argumento da Sala Chinesa (CRA), desenvolvido pelo filósofo de Berkeley, John Searle, em 1980.
Aplicando isso aos desenvolvimentos mais recentes com modelos de linguagem grande (LLMs), seguindo o argumento da sala chinesa, as máquinas, incluindo os LLMs, não seriam capazes de entender verdadeiramente a linguagem que usam para completar strings. No entanto, o argumento da sala chinesa tem enfrentado críticas consideráveis ​​desde o seu início. Por exemplo, alguns críticos argumentam que uma máquina capaz de responder perfeitamente a uma pergunta deve indicar algum nível de compreensão da linguagem dentro do sistema, mesmo que não pelo próprio homem.
Como a IA e os LLMs atuais se comparam ao homem hipotético na sala quando se trata de processar e compreender entradas de linguagem?