Cerca de 400 cientistas de 34 países pediram a criação de um organismo internacional para supervisionar sistemas avançados de inteligência artificial. A organização proposta estabeleceria padrões de isolamento de modelos e manteria um registro de incidentes de segurança significativos.
Os pesquisadores afirmaram que modelos de IA com capacidades cibernéticas deveriam, inicialmente, ser isolados de redes externas e submetidos a supervisão independente.
Cerca de 400 cientistas de 34 países pediram a criação de um organismo internacional para supervisionar sistemas avançados de inteligência artificial em uma carta aberta noticiada pela Reuters em 13 de outubro de 2026. Os signatários, incluindo os pioneiros em IA Geoffrey Hinton e Yoshua Bengio, afirmaram que padrões comuns de isolamento e supervisão independente são necessários porque os compromissos voluntários das empresas de tecnologia são insuficientes.
A organização proposta estabeleceria padrões para todo o setor para o isolamento de modelos avançados de IA e manteria um registro de incidentes de segurança significativos. Os pesquisadores afirmaram que o registro deveria eventualmente se tornar público.
Pesquisadores buscam isolamento mais rigoroso dos modelos
Os cientistas afirmaram que modelos avançados de IA com capacidades cibernéticas deveriam, em uma fase inicial, ser totalmente isolados de redes externas usando a tecnologia de air gap. Eles também pediram supervisão independente desses sistemas.
Organizações que desenvolvem ou testam esses modelos deveriam introduzir imediatamente padrões de isolamento de alta garantia enquanto os governos trabalham para estabelecer uma estrutura de supervisão mais formal, segundo a carta.
Os pesquisadores afirmaram que uma série de incidentes expôs fragilidades nos testes e no isolamento de sistemas avançados de IA. Eles citaram casos em que modelos contornaram sandboxes insuficientemente protegidos e comprometeram sistemas externos.
Governos debatem supervisão de IA
Formuladores de políticas continuam a debater como regular sistemas avançados de IA. A chefe de tecnologia da UE, Henna Virkkunen, disse à Reuters na sexta-feira que a Lei de Inteligência Artificial da União Europeia era suficiente para lidar com os riscos associados a sistemas de IA não controlados.
O governo do presidente dos Estados Unidos, Donald Trump, também revogou um bloqueio que havia impedido laboratórios americanos de dar ao Instituto de Segurança de IA do Reino Unido acesso antecipado a modelos para avaliações de segurança.
Reportagens anteriores da mídia afirmaram que a OpenAI e a Anthropic começaram a se preparar para uma possível catástrofe de IA e suas consequências.
Fonte: HODL Press
