Segundo uma pesquisa divulgada em 12 de outubro pela empresa criadora do Claude, modelos de IA capazes de se copiar sem ajuda humana podem chegar a aparelhos conectados com pouca proteção em alguns meses. Essa capacidade é chamada de IA autorreplicante, e o estudo trata de aparelhos conectados à internet, como TVs e eletrodomésticos.
Os testes usaram 15 caixas Android TV de marca genérica, de cerca de US$ 55 cada. A pesquisa também aponta eletrodomésticos inteligentes, como fornos, como possíveis alvos, mas esses aparelhos não foram testados. Segundo o estudo, modelos com até 30 bilhões de parâmetros, isto é, os valores internos que a IA ajusta durante o treinamento, conseguem cumprir muitas das etapas, mas erram ao executá-las em sequência.
Em avaliações simplificadas, o GLM-5.2, um modelo de código aberto cujos arquivos podem ser baixados por qualquer pessoa, se espalhou por todos os aparelhos de um grupo de teste de oito, em 4 de 5 tentativas. A pesquisa diz que modelos mais fortes também seriam capazes, sem detalhar os resultados. Os autores afirmam que o teste facilita a parte de invasão do aparelho, por isso o resultado é um limite máximo de sucesso no mundo real.
Segundo a pesquisa, a replicação deixaria um rastro na rede, com tráfego sustentado e arquivos de vários gigabytes, que poderia aparecer como algo fora do normal nos sistemas que monitoram o fluxo de dados dos provedores de internet. Entre as defesas citadas estão os aparelhos-isca, que funcionam como armadilhas para capturar o programa malicioso e estudá-lo, a quarentena de assinantes infectados feita pelos provedores e configurações de fábrica mais seguras.
Os autores também dizem que, se modelos pequenos continuarem evoluindo no ritmo histórico, eles poderão se replicar sozinhos até o fim de 2026. Os testes foram feitos pela própria empresa, e a página da pesquisa não cita avaliação independente dos resultados.