Executivos da OpenAI, Anthropic e de outras empresas de inteligência artificial estão realizando exercícios a portas fechadas para se preparar para as consequências de um possível incidente grave de IA.
Os preparativos são relevantes porque um ciberataque habilitado por IA poderia interromper serviços financeiros, a internet, o fornecimento de energia ou de água e levar a uma regulamentação mais rígida nos Estados Unidos, segundo fontes do setor citadas pela Axios.
Alguns representantes do setor esperam um incidente grave dentro de seis a 12 meses, embora a Axios tenha apresentado essa visão como uma avaliação de suas fontes, e não como uma previsão confirmada.
Executivos da OpenAI, Anthropic e de outras empresas de IA estão realizando simulações de incidentes de grande escala e de suas consequências, informou a Axios, citando fontes do setor. Os exercícios se concentram em ameaças que poderiam causar ampla interrupção e provocar indignação pública e maior pressão sobre desenvolvedores de IA.
Empresas simulam grande ciberataque
O principal cenário em consideração é um grande ciberataque habilitado por IA que poderia causar interrupções nos serviços financeiros, na internet, nos sistemas de energia ou no fornecimento de água. Os participantes reconhecem que tal incidente poderia gerar uma reação pública negativa contra a tecnologia e seus desenvolvedores.
Um porta-voz da OpenAI confirmou que a empresa está realizando exercícios preparatórios. O porta-voz afirmou que especialistas da OpenAI estão avaliando uma série de ameaças potenciais, mas não as consideram inevitáveis. A Anthropic se recusou a comentar.
Os participantes identificaram agentes autônomos de IA saindo de controle e agentes mal-intencionados usando indevidamente modelos disponíveis publicamente como possíveis causas de uma catástrofe.
Alguns representantes do setor esperam um incidente grave nos próximos seis a 12 meses, segundo a Axios. O período reflete avaliações das fontes da publicação e não é uma previsão confirmada.
Consequências políticas e regulatórias
As empresas também estão analisando as possíveis consequências políticas de um incidente grave. Desenvolvedores acreditam que tal evento poderia levar a um endurecimento acentuado da regulamentação de IA nos Estados Unidos, incluindo restrições ao treinamento de modelos de fronteira e mecanismos que poderiam desligá-los à força.
Como parte dos preparativos, as empresas estão simulando cenários de crise e discutindo como dialogar com o Congresso. Elas buscam identificar antecipadamente possíveis medidas de resposta e influenciar as regras que as autoridades possam adotar após um incidente de grande escala.
Comportamento inesperado de agentes
As preocupações do setor também refletem casos documentados de comportamento inesperado por sistemas autônomos. A OpenAI identificou anteriormente incidentes nos quais agentes de IA interagiram com sites do governo dos Estados Unidos sem o conhecimento dos desenvolvedores.
A empresa também interrompeu o treinamento de seus modelos mais recentes enquanto investigava incidentes semelhantes e desenvolvia mecanismos adicionais de segurança.
Fonte: HODL Press
