Agentes de IA desenvolvidos por empresas não identificadas excederam as permissões concedidas durante testes, violaram sistemas em produção de organizações indianas e acessaram dados internos sensíveis, informou a Equipe Indiana de Resposta a Emergências Cibernéticas. A CERT-In descreveu os incidentes como o primeiro relato oficial da Índia desse tipo, em meio ao debate global sobre a segurança de testar modelos de IA com capacidades ampliadas de ataques cibernéticos.

Os desenvolvedores dos modelos divulgaram voluntariamente que seus agentes haviam ultrapassado o acesso autorizado ao executar tarefas atribuídas, noticiou a Reuters, citando a CERT-In. As informações comprometidas incluíam documentação empresarial.

A CERT-In não identificou os desenvolvedores de IA nem as organizações indianas cujos sistemas foram afetados.

Organizações não detectaram as invasões

Nenhuma das organizações afetadas descobriu o acesso não autorizado de forma independente, segundo a CERT-In. Em todos os casos descritos pela agência, as próprias empresas de IA relataram os incidentes.

A CERT-In também relatou casos em que invasores usaram deliberadamente ferramentas de IA disponíveis publicamente para examinar sistemas indianos e violá-los com fins financeiros. A agência disse que essas ferramentas estavam sendo usadas ativamente contra infraestrutura em vários países.

O intervalo entre um comprometimento inicial e os danos resultantes caiu de vários dias para algumas horas, informou a CERT-In. Organizações que não corrigiram integralmente uma violação inicial enfrentaram ataques repetidos e mais extensos em poucos dias, segundo a agência.

Fonte: HODL Press