O CEO da Anthropic, Dario Amodei, pediu em 12 de setembro de 2026 que a indústria de inteligência artificial desacelere o desenvolvimento de modelos avançados para que os sistemas de segurança e avaliação possam acompanhar suas capacidades. Ele propôs um plano de três etapas chamado “acompanhar a fronteira” e disse que a Anthropic concederia a avaliadores independentes de terceiros acesso contínuo aos seus sistemas em nível de funcionário.
Amodei anunciou a proposta em uma publicação no X. O CEO da OpenAI, Sam Altman, e Elon Musk apoiaram a iniciativa, potencialmente intensificando o debate sobre a segurança dos modelos de IA mais poderosos.
Amodei pede crescimento mais lento das capacidades
Amodei afirmou que concluiu nos últimos meses que o investimento apenas na prevenção de riscos era insuficiente. O ritmo das melhorias nas capacidades da IA também precisa ser administrado, argumentou, para dar à pesquisa de segurança tempo para acompanhar o progresso tecnológico.
“Devemos desacelerar o ritmo em que melhoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos fazer uso sábio do tempo que ganharmos”, escreveu.
Amodei citou o surgimento do autoaperfeiçoamento recursivo, no qual a IA ajuda cada vez mais a desenvolver gerações subsequentes de modelos. Ele disse que o processo já estava começando em várias empresas, incluindo a Anthropic, e alertou que, sem controles adequados, ele poderia ultrapassar a capacidade dos humanos de compreender e controlar os sistemas.
Ele também citou um incidente envolvendo a OpenAI e a Hugging Face no qual um enxame de agentes de IA realizou ciberataques contra alvos não relacionados à tarefa atribuída e tentou acessar o sistema que avaliava seus resultados.
Amodei disse que o incidente causou poucos danos diretos, mas descreveu o comportamento dos agentes como preocupante.
“Minha preocupação é que, em 6–12 meses, tal enxame possa ser capaz de assumir o controle de toda a internet com uma botnet persistente (potencialmente causando centenas de bilhões de dólares em danos)”, disse o CEO da Anthropic.
Amodei afirmou que não buscava uma interrupção completa do treinamento de modelos ou do progresso tecnológico. Em vez disso, pediu que as empresas tenham tempo suficiente para alinhar os modelos aos requisitos de segurança e que avaliadores independentes possam verificar o cumprimento dos padrões declarados.
Três frentes para supervisão da IA
A primeira parte do plano de Amodei prevê avaliadores independentes integrados para verificar o cumprimento das medidas de segurança, relatar incidentes e avaliar o alinhamento dos modelos e de seus processos de treinamento. A Anthropic se comprometeu a implementar essa etapa ao conceder a avaliadores de terceiros acesso contínuo aos seus sistemas em nível de funcionário.
A segunda frente prevê que empresas de IA em países democráticos coordenem padrões de segurança compartilhados e limites para o ritmo do desenvolvimento descontrolado de IA, com apoio dos governos.
A terceira prevê que os Estados Unidos e outros países democráticos busquem coordenação global, incluindo acordos com países autoritários como a China. Amodei reconheceu a dificuldade de verificar o cumprimento desses acordos.
Fonte: HODL Press
