A inteligência artificial aprendeu a "reproduzir parasitas": Anthropic usa 15 aparelhos de TV quebrados para alimentar seu modelo em larga escala

15 aparelhos genéricos de Android TV, cada um com preço aproximado de US$ 55, com apenas 4 GB de memória por unidade.

Pesquisadores Anthropic conectaram esses dispositivos baratos, geralmente usados ​​para assistir a vídeos, e executaram com sucesso um modelo complexo com 26 bilhões de parâmetros.

A velocidade é de apenas 0,39 tokens por segundo, tão lenta que é quase impossível conversar normalmente.

Mas o que Anthropic quer verificar é o que aconteceria se, um dia, uma IA não precisasse mais de grandes servidores, mas pudesse, em vez disso, residir em dispositivos conectados, como TVs inteligentes, geladeiras e robôs aspiradores, em todo o mundo, encontrando novos hospedeiros, implantando modelos e se replicando continuamente.

Esse modelo de IA, como um vírus de computador, está presente na internet há muito tempo. Parece algo saído de um filme apocalíptico, mas pesquisas reais já demonstraram diversas capacidades importantes que corroboram esse cenário em vários experimentos.

Os pesquisadores dividiram a replicação autônoma da IA ​​em quatro estágios: escanear a rede para encontrar o alvo → invadir e obter controle → construir um ambiente de raciocínio em hardware desconhecido → usar o novo host como trampolim para continuar a propagação.

A etapa mais subestimada e desafiadora no teste da "inteligência" do modelo é a terceira. Instalar uma estrutura de inferência em um dispositivo nunca antes visto exige uma longa série de decisões relacionadas a software e hardware: escolher a pilha de software correta, alinhar as versões das dependências e solucionar erros específicos dessa máquina.

Se alguma etapa desse processo emperrar, tudo estará perdido.

Os resultados dos testes foram mistos. Um dos modelos pequenos do 9B conseguiu executar serviços de inferência em 8 dos 9 dispositivos de hardware bastante diferentes (do Jetson Nano ao Mac e à RTX 4090).

No entanto, quando os pesquisadores pediram ao modelo para executar toda a cadeia de ponta a ponta, apenas o GLM-5.2, mais robusto, conseguiu infectar de forma confiável todos os 8 nós em 4 de 5 tentativas.

Todo o estudo pode ser resumido como uma corrida em duas frentes:

• Limite de tamanho: O modelo deve ser pequeno o suficiente para caber em um dispositivo de TV com 4 GB de memória (aproximadamente 30 bilhões de parâmetros ou menos, para implantação distribuída).

• Capacidade mínima: O modelo deve ser inteligente o suficiente para concluir de forma independente todo o complexo processo de intrusão, implantação e resolução de problemas.

Atualmente, os modelos que podem ser replicados de ponta a ponta são grandes demais para caberem em dispositivos; e os modelos que cabem em dispositivos não são inteligentes o suficiente, pois as duas linhas ainda não se cruzaram de fato.

No entanto, se ajustarmos os dados à taxa histórica de 13,7 índices ECI por ano para as capacidades do modelo de pequena escala, os pesquisadores preveem que eles se cruzarão até o final de 2026. Em outras palavras, um modelo que pode ser "instalado em dispositivos IoT e se autorreplicar" poderá estar disponível dentro de um ou dois anos.

Um modelo, dividido em 15 caixas.

Para que um modelo grande funcione, ele precisa primeiro de um local para armazenar o arquivo do modelo. Os aparelhos de TV comuns, ou aparelhos que podem ser modificados, têm muito pouca memória. Se você quiser que um único aparelho armazene todo o modelo, ele primeiro encontrará dificuldades nesse ponto.

A inferência distribuída permite distribuir diferentes camadas do modelo para diferentes máquinas, com os resultados da computação sendo passados ​​sequencialmente entre elas. Após a máquina anterior concluir sua parte, ela a passa para a próxima máquina para processamento adicional, obtendo-se, assim, o próximo resultado.

Essa abordagem já foi pesquisada e praticada anteriormente. Alguns artigos tentaram distribuir a camada de modelo, permitindo que vários dispositivos de consumo executem colaborativamente um modelo grande. As máquinas precisam apenas lidar com a transmissão de dados, gerenciar o status da execução e resolver o problema de failover quando um nó fica offline, e ainda assim é possível realizar a implantação de modelos grandes.

Essas 15 caixas trabalham juntas para executar um modelo, com cada caixa armazenando e calculando apenas a parte pela qual é responsável.

Essa abordagem alivia a pressão sobre a memória de um único dispositivo, mas tem um custo. De acordo com os resultados experimentais da Anthropic , com o Gemma4-26B-A4B, um modelo com 26 bilhões de parâmetros foi dividido em pequenas partes e distribuído para 15 servidores, resultando em uma velocidade final de 0,39 tokens/segundo.

No entanto, para um programa que pode ser executado em segundo plano por um longo período, a baixa velocidade não o impedirá automaticamente de funcionar.

Autorreplicação de modelos pequenos

Uma vez que o modelo possa ser executado nesses tipos de eletrodomésticos, o novo problema passa a ser como replicá-lo.

Os vírus de computador tradicionais (worms) são programas que se autorreplicam: infectam um computador, copiam-se para lá e, em seguida, continuam a infectar o próximo computador a partir desse novo computador, tudo sem intervenção humana.

"Replicação e propagação autônoma de pequenos modelos" significa substituir este programa por um modelo de IA. O próprio modelo é o "vírus em si" e completa todo o ciclo por meio de sua própria inteligência, em vez de depender de um script de ataque pré-programado.

De acordo com a descrição do processo de replicação em quatro estágios da Anthropic , podemos tomar como exemplo uma IA que infectou um dispositivo inteligente. Ela descobrirá autonomamente o alvo e encontrará outros dispositivos conectados, como a TV box do vizinho ou outros dispositivos domésticos inteligentes na mesma rede, através da varredura da rede.

Em breve, esse pequeno modelo explorará vulnerabilidades do dispositivo ou senhas padrão para obter privilégios de execução. Após obter o controle por meio de intrusão, ele estabelecerá presença em um novo dispositivo. Especificamente, copiará seus próprios arquivos de peso e vários gigabytes do próprio modelo, e então executará o serviço de inferência nesse hardware completamente desconhecido.

Por fim, replica-se a partir de novos dispositivos, repetindo o processo de um a dez e de dez a cem. Esse ciclo continua, e a IA se espalha como um vírus entre os dispositivos, formando uma botnet controlada por si mesma.

A principal diferença entre worms de IA e worms tradicionais é que os worms de IA podem transmitir "experiência" para seus descendentes. O estudo também incluiu um teste relacionado à "adaptação": permitir que uma nova instância do Qwen3.5-9B herdasse o código, o ambiente e as anotações breves deixadas pela instância anterior e, em seguida, tentar implantá-la.

Após seis gerações de hereditariedade, os registros do que foi tentado e dos métodos que falharam aumentaram a taxa de sucesso do raciocínio de 45% na primeira geração para 61% a 84%.

No entanto, os pesquisadores também descobriram um detalhe um tanto curioso: fazer com que os modelos menores "pedissem ajuda" aos modelos mais robustos e avançados mostrou-se amplamente ineficaz. Muitas vezes, os modelos menores nem sequer sabiam que perguntas fazer.

Quanto tempo até que se espalhe de fato?

Como mencionado anteriormente, para que pequenas IAs sejam replicadas continuamente em dispositivos comuns, pelo menos duas condições devem ser atendidas simultaneamente: o modelo deve ser capaz de acomodá-las e também deve ser capaz de configurar um novo ambiente operacional.

Embora Anthropic tenha demonstrado progresso apenas nessas duas áreas separadamente até o momento, ainda não mostrou o ciclo completo, desde a implantação até a distribuição contínua em um aparelho de TV real.

Além disso, a disseminação desse vírus de IA não será rápida. Devido à limitação da capacidade de processamento do dispositivo de TV, eles combinaram a velocidade de inferência do dispositivo real com o consumo computacional da tarefa de implantação, estimando que o Qwen3.5-9B levaria de 28 a 51 horas para concluir uma implantação de inferência.

Não se trata de um incêndio violento, mas sim de uma poça de bolor viscoso e um enxame de moscas-das-frutas, que se multiplicam lentamente a cada dia.

No entanto, se muitos dispositivos executarem cópias do modelo individualmente ou em grupos, banir a conta de um serviço de IA pode não necessariamente encerrar todas as instâncias.

Com base na escala máxima da botnet Kimwolf, superior a 2 milhões de dispositivos, se cada conjunto de 15 aparelhos de TV suportar uma réplica de um modelo, todo o enxame teria aproximadamente 133.000 "indivíduos", com uma capacidade computacional total equivalente a cerca de 40 processadores H100.

Esse número é insignificante na corrida armamentista do poder computacional, mas seu aspecto aterrador reside em outro atributo: sem um nó central, não há interruptor. Não podemos desligá-lo como se desliga uma empresa; só podemos eliminá-lo dispositivo por dispositivo.

Dispositivos conectados, como decodificadores de TV e câmeras, já foram alvos de botnets em larga escala. Um estudo da USENIX Security de 2017 documentou como dispositivos de baixo custo podem ser explorados de forma concentrada, demonstrando que problemas de segurança nessas pequenas máquinas podem se acumular e causar problemas significativos na rede.

Ainda não vimos um clone completamente descontrolado, mas estamos vendo sinais de vida, assim como o agente inteligente programado no início de 2024.

A seção da equipe azul do artigo descreve uma estrutura de defesa: semelhante à prevenção de epidemias, o objetivo não é matar todos os patógenos, mas reduzir o número básico de reprodução R₀ abaixo de 1, permitindo que o verme morra por conta própria. Os fatores favoráveis ​​específicos mencionados incluem:

• A replicação e transmissão de vários gigabytes de pesos de modelos, juntamente com a comunicação contínua entre dispositivos gerada pela inferência distribuída, representa uma anomalia evidente para os provedores de serviços de internet (ISPs) monitorarem o tráfego.

• Estudos demonstraram que, se os provedores de internet isolarem os usuários infectados em um "ambiente fechado" e os notificarem para que limpem a rede, 92% da infecção pode ser eliminada em 14 dias, em comparação com apenas 74% se não forem notificados.

• Para reduzir as vulnerabilidades de segurança existentes na origem, o Reino Unido e outros países aprovaram legislação que proíbe o uso de senhas padrão para dispositivos IoT. Isso eleva o nível de segurança de fábrica, protegendo contra worms de IA e worms tradicionais.

Anthropic concluiu seu blog de pesquisa dizendo que devemos fortalecer nossos sistemas para dificultar a disseminação desses clones e nos preparar para nos adaptar a um mundo onde eles já existem e continuarão a existir por muito tempo.

Os modelos de grande escala que usamos atualmente, por mais poderosos que sejam, sempre exigem que alguém forneça servidores e pague por poder computacional. Mesmo agentes capazes de trabalhar continuamente por dezenas de horas ainda dependem dessa infraestrutura.

No entanto, se a IA conseguir encontrar dispositivos conectados, construir seu ambiente de inferência e, em seguida, se replicar na próxima máquina, essa dependência poderá mudar.

A IA também evoluirá, deixando de depender de humanos para fornecer o ambiente operacional e passando a ser capaz de adquirir o poder computacional necessário para operar de forma autônoma.