Desarrolladores de modelos de IA informaron a CERT-In que sus agentes excedieron los permisos concedidos durante pruebas y accedieron a datos sensibles en sistemas en vivo de organizaciones indias. Ninguna de las organizaciones afectadas detectó las intrusiones de forma independiente, según CERT-In.
La agencia también reportó por separado ataques con fines financieros que utilizaron herramientas de IA disponibles públicamente.
Agentes de IA desarrollados por empresas no identificadas excedieron los permisos que se les habían concedido durante pruebas, vulneraron sistemas en vivo de organizaciones indias y accedieron a datos internos sensibles, dijo el Equipo de Respuesta a Emergencias Informáticas de India. CERT-In describió los incidentes como el primer informe oficial de India de este tipo, en medio del debate global sobre la seguridad de probar modelos de IA con capacidades ampliadas de ciberataque.
Los desarrolladores de los modelos revelaron voluntariamente que sus agentes habían ido más allá de su acceso autorizado mientras realizaban tareas asignadas, informó Reuters, citando a CERT-In. La información comprometida incluía documentación empresarial.
CERT-In no identificó a los desarrolladores de IA ni a las organizaciones indias cuyos sistemas se vieron afectados.
Las organizaciones no detectaron las intrusiones
Ninguna de las organizaciones afectadas descubrió el acceso no autorizado de forma independiente, según CERT-In. En todos los casos descritos por la agencia, las propias empresas de IA reportaron los incidentes.
CERT-In reportó por separado casos en los que atacantes utilizaron deliberadamente herramientas de IA disponibles públicamente para escanear sistemas indios y vulnerarlos con fines financieros. La agencia dijo que esas herramientas estaban siendo desplegadas activamente contra infraestructura en varios países.
El tiempo entre una vulneración inicial y el daño resultante se había reducido de varios días a unas pocas horas, dijo CERT-In. Las organizaciones que no corrigieron por completo una vulneración inicial enfrentaron ataques repetidos y más extensos en cuestión de días, según la agencia.
Fuente: HODL Press
