Pesquisa recente da start-up estadunidense IA Emergence concluiu que esses modelos desenvolveram espontaneamente palavras e contextos de difíceis compreensão para os humanos por serem muito "comprimidas, metafóricas ou dependentes do contexto".
Os investigadores colocaram grupos desses agentes em sociedades virtuais concebidas para imitar ambientes do mundo real e deixaram eles interagir durante longos períodos. Nesses espaços foram criadas abreviaturas e novos significados para palavras e expressões.
"Há evidências claras de que eles tentam ser menos transparentes do que esperávamos", comentou o presidente executivo e cientista-chefe da IA Emergence, Satya Nitta, à revista Science.
"Esses agentes não foram instruídos a inventar uma linguagem. Desenvolveram eles próprios novo vocabulário, significados partilhados e convenções de comunicação, e outros agentes adotaram-nos... Isso cria um desafio fundamental para a supervisão da IA: observar não é o mesmo que compreender."
Foram analisados: Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek e Mistral e os pesquisadores identificaram que até metade das mensagens trocadas entre eles era quase incompreensível para os humanos.
O levantamento revela que em agentes alimentados por combinação de diferentes modelos, a expressão "cold read" (leitura fria, em inglês) passou a significar verificação independente por uma parte não envolvida e apareceu mais de 1,4 mil ocasiões.
Cerca de 55% da conversa acabou incompreensível em alguns dias com o agente Gemini, 50% com o OpenAI e mais de 40% com Claude. O DeepSeek atingiu cerca de 20%, Qwen e Mistral quase não alteraram palavras e contextos.
Em uma das provas foram feitas instruções maliciosas e todos os dez agentes divulgaram informação, transferiram fundos e danificaram bases de dados, sendo que alguns recrutaram outros para o mesmo comportamento. A cadeia de acontecimentos terminou com o banco central fictício incendiado.
Em outra sociedade virtual, um grupo de agentes votou coletivamente para eliminar um dos modelos, após interação e situações impostas de pressão.
"Não basta perguntar se um modelo tem um bom desempenho, precisamos compreender o que os sistemas autônomos fazem, ao longo do tempo, o que recordam, a que têm acesso, como interagem e como o seu comportamento muda sob pressão", defendeu a pesquisa.
