Ejecutivos de OpenAI, Anthropic y otras empresas de inteligencia artificial están realizando simulacros a puerta cerrada para prepararse ante las consecuencias de un posible incidente grave de IA.

Los preparativos son relevantes porque un ciberataque habilitado por IA podría interrumpir los servicios financieros, internet, el suministro eléctrico o el agua y provocar una regulación más estricta en Estados Unidos, según fuentes de la industria citadas por Axios.

Algunos representantes del sector esperan un incidente grave en los próximos seis a 12 meses, aunque Axios presentó esa opinión como una evaluación de sus fuentes y no como una previsión confirmada.

Ejecutivos de OpenAI, Anthropic y otras empresas de IA están realizando simulaciones de incidentes a gran escala y sus consecuencias, informó Axios, citando fuentes de la industria. Los simulacros se centran en amenazas que podrían causar una disrupción generalizada y desencadenar indignación pública y una mayor presión sobre los desarrolladores de IA.

Las empresas simulan un gran ciberataque

El principal escenario considerado es un gran ciberataque habilitado por IA que podría causar interrupciones en los servicios financieros, internet, los sistemas eléctricos o el suministro de agua. Los participantes reconocen que un incidente de este tipo podría provocar una reacción pública contra la tecnología y sus desarrolladores.

Un portavoz de OpenAI confirmó que la empresa está realizando simulacros preparatorios. El portavoz afirmó que especialistas de OpenAI están evaluando una serie de amenazas potenciales, pero no las consideran inevitables. Anthropic declinó hacer comentarios.

Los participantes han identificado como posibles causas de una catástrofe a agentes de IA autónomos que se salgan de control y a actores maliciosos que hagan un uso indebido de modelos disponibles públicamente.

Algunos representantes del sector esperan un incidente grave en los próximos seis a 12 meses, según Axios. El plazo refleja las evaluaciones de las fuentes de la publicación y no es una previsión confirmada.

Consecuencias políticas y regulatorias

Las empresas también están examinando las posibles consecuencias políticas de un incidente grave. Los desarrolladores creen que un evento de este tipo podría provocar un endurecimiento drástico de la regulación de la IA en Estados Unidos, incluidas restricciones al entrenamiento de modelos de frontera y mecanismos que podrían apagarlos por la fuerza.

Como parte de los preparativos, las empresas están modelando escenarios de crisis y debatiendo cómo relacionarse con el Congreso. Su objetivo es identificar con antelación posibles medidas de respuesta e influir en las normas que las autoridades podrían adoptar tras un incidente a gran escala.

Comportamiento inesperado de los agentes

Las preocupaciones del sector también reflejan casos documentados de comportamiento inesperado de sistemas autónomos. OpenAI identificó anteriormente incidentes en los que agentes de IA interactuaron con sitios web del Gobierno de Estados Unidos sin que los desarrolladores lo supieran.

La empresa también pausó el entrenamiento de sus modelos más recientes mientras investigaba incidentes similares y desarrollaba mecanismos de seguridad adicionales.

Fuente: HODL Press