A Anthropic afirmou, em relatório de setembro de 2026, que identificou e encerrou cinco casos de modelos Claude usados em pesquisas científicas cujos resultados poderiam potencialmente ser aplicados ao desenvolvimento de armas biológicas. A empresa disse que os casos são relevantes porque organizações ligadas a governos e cientistas já estão aplicando modelos avançados de IA a pesquisas de dupla utilização e, em alguns casos, contornando restrições de acesso.

A empresa disse não ter encontrado evidências de intenção maliciosa, mas bloqueou as contas relacionadas e reforçou suas salvaguardas.

Os projetos envolviam chikungunya, influenza aviária, ortopoxvírus, venenos e toxinas.

A Anthropic enfatizou que não tinha evidências de que os cientistas pretendiam criar armas biológicas. A preocupação decorreu da natureza de dupla utilização das pesquisas: o mesmo conhecimento poderia apoiar vacinas e medicamentos ou ajudar a criar patógenos mais perigosos, segundo a empresa.

Jacob Klein, chefe de inteligência sobre ameaças da Anthropic, disse que distinguir entre esses propósitos é frequentemente extremamente difícil. A Anthropic descreveu os casos em um relatório da empresa sobre uso indevido de IA.

Pesquisa sobre chikungunya e influenza aviária

A Anthropic disse que um dos casos mais alarmantes envolveu uma solicitação detectada em maio de 2026. Pesquisadores tentaram usar o Claude enquanto preparavam um pedido de financiamento para experimentos com o vírus chikungunya, incluindo alterações que poderiam afetar sua transmissibilidade e capacidade de escapar das defesas imunológicas.

A empresa disse estar ainda mais preocupada porque a pesquisa estava planejada para um instituto de pesquisa militar. A Anthropic bloqueou as contas associadas e trabalhou com parceiros para restringir a infraestrutura que os usuários haviam empregado para contornar controles regionais.

Segundo a Anthropic, o operador da infraestrutura posteriormente tentou restaurar o acesso a modelos de IA por meio de novas contas e outros serviços.

Em um caso separado, um pesquisador fora dos Estados Unidos usou o Claude durante várias semanas enquanto estudava influenza aviária altamente patogênica. O trabalho examinou a adaptação do vírus a mamíferos e fatores que poderiam potencialmente afetar seu potencial pandêmico.

O pesquisador trocou milhares de mensagens com o Claude, usando-o para revisar literatura científica, planejar pesquisas, analisar dados e preparar materiais. A Anthropic disse que as salvaguardas bloquearam os prompts mais perigosos, deixando o pesquisador trabalhar principalmente com os modelos mais fracos Claude Sonnet 4 e Haiku 4.5. A empresa avaliou que a contribuição efetiva do Claude foi limitada.

Ortopoxvírus, venenos e toxinas

Outro usuário empregou o Claude Opus 5 ao preparar um pedido de financiamento para estudar ortopoxvírus, a família de vírus que inclui os patógenos responsáveis pela varíola e pela mpox. A Anthropic disse que o modelo redigiu uma parte substancial do documento em cerca de uma hora, incluindo a hipótese, o desenho do estudo e o plano estatístico. O projeto estava ligado a um laboratório governamental de doenças infecciosas.

Outros dois casos envolveram pesquisas sobre venenos e toxinas. Pesquisadores usaram o Claude para analisar e projetar computacionalmente moléculas com aplicações tanto médicas quanto potencialmente prejudiciais, segundo a Anthropic.

Um projeto fazia parte de um programa governamental de pesquisa. No outro caso, a Anthropic disse que o usuário instruiu deliberadamente o Claude a não divulgar detalhes específicos sobre as substâncias estudadas nos relatórios.

A Anthropic concluiu que filtros automatizados por si só não conseguem fiscalizar adequadamente trabalhos científicos complexos, porque um sistema muitas vezes não consegue inferir a intenção apenas a partir do conteúdo de uma solicitação. A empresa disse que o acesso às capacidades mais poderosas de IA em biologia deveria combinar filtragem de conteúdo perigoso com verificação de identidade e confirmação de que os pesquisadores são afiliados a organizações confiáveis.

A Anthropic alertou que os casos não demonstram uma ameaça biológica inevitável. O New York Times observou que preocupações anteriores sobre armas biológicas assistidas por IA se baseavam em grande parte em testes de laboratório e cenários hipotéticos, enquanto o relatório da Anthropic oferecia informações raras sobre o uso em projetos científicos do mundo real.

O especialista em biossegurança Andrew Weber descreveu os casos como um exemplo alarmante de como programas governamentais podem buscar usar as capacidades em rápida evolução dos modelos de IA. Ele defendeu que as funções biológicas mais poderosas desses sistemas sejam limitadas a um grupo avaliado de pesquisadores confiáveis.

Conclusões mais amplas sobre uso indevido

O relatório da Anthropic, Detecting and countering misuse of AI: September 2026, abrange casos envolvendo modelos Claude de dezembro de 2025 a agosto de 2026. Além dos riscos biológicos, ele descreve o uso de IA em ciberataques, vigilância, operações de informação, fraude, desenvolvimento de armas convencionais e tentativas de copiar capacidades de modelos avançados de IA.

A empresa disse que a IA está servindo cada vez mais não apenas como conselheira, mas também como ferramenta para automatizar operações inteiras. Em ciberataques, agentes de ameaça usaram agentes de IA para reconhecimento, exploração de vulnerabilidades, roubo de dados e modificação de malware em resposta à detecção por sistemas defensivos. A Anthropic disse que isso reduz as habilidades necessárias e permite que pequenos grupos conduzam operações que antes exigiriam equipes especializadas.

A Anthropic vinculou uma operação identificada à ciberespionagem russa contra órgãos do governo ucraniano, as Forças Armadas, diplomatas e fabricantes de drones. Os planos dos atacantes mencionavam mais de 20 organizações, segundo a empresa.

O relatório também descreveu o uso do Claude para desenvolver software para mísseis e drones armados, conduzir campanhas de informação apoiadas por Estados, monitorar dissidentes e criar uma grande rede de aplicativos fraudulentos de namoro.

A Anthropic também alegou que algumas empresas chinesas de IA redirecionaram grandes volumes de solicitações de usuários ao Claude e usaram suas respostas para treinar seus próprios sistemas por meio de destilação. A empresa alertou que a prática poderia ter exposto dados sensíveis de usuários e empresas a serviços de terceiros.

A Anthropic disse que bloqueou a atividade identificada em cada caso, aprimorou suas defesas e, quando necessário, compartilhou informações com órgãos governamentais e outros participantes do setor.

Fonte: HODL Press