Unos 400 científicos de 34 países pidieron la creación de un organismo internacional para supervisar la seguridad de los sistemas avanzados de IA.
La organización propuesta establecería normas de aislamiento de modelos y mantendría un registro de incidentes de seguridad significativos.
Los investigadores afirmaron que los modelos de IA con capacidades cibernéticas deberían, inicialmente, mantenerse aislados de redes externas y someterse a supervisión independiente.
Unos 400 científicos de 34 países pidieron la creación de un organismo internacional para supervisar los sistemas avanzados de inteligencia artificial en una carta abierta informó Reuters el 13 de octubre de 2026. Los firmantes, entre ellos los pioneros de la IA Geoffrey Hinton y Yoshua Bengio, afirmaron que se necesitan normas comunes de aislamiento y supervisión independiente porque los compromisos voluntarios de las empresas tecnológicas son insuficientes.
La organización propuesta establecería normas para toda la industria sobre el aislamiento de modelos avanzados de IA y mantendría un registro de incidentes de seguridad significativos. Los investigadores afirmaron que el registro debería llegar a ser público.
Los investigadores buscan un aislamiento más estricto de los modelos
Los científicos afirmaron que los modelos avanzados de IA con capacidades cibernéticas deberían, en una etapa inicial, estar completamente aislados de redes externas mediante tecnología de aislamiento físico. También solicitaron supervisión independiente de esos sistemas.
Las organizaciones que desarrollen o prueben tales modelos deberían introducir de inmediato normas de aislamiento de alta garantía mientras los gobiernos trabajan para establecer un marco de supervisión más formal, según la carta.
Los investigadores afirmaron que una serie de incidentes había expuesto debilidades en las pruebas y el aislamiento de sistemas avanzados de IA. Citaron casos en los que los modelos eludieron entornos aislados con seguridad insuficiente y comprometieron sistemas externos.
Los gobiernos debaten la supervisión de la IA
Los responsables políticos siguen debatiendo cómo regular los sistemas avanzados de IA. La responsable de tecnología de la UE, Henna Virkkunen, dijo a Reuters el viernes que la Ley de Inteligencia Artificial de la Unión Europea era suficiente para abordar los riesgos asociados con sistemas de IA no controlados.
La administración del presidente estadounidense Donald Trump también levantó un bloqueo que había impedido a laboratorios estadounidenses dar al Instituto de Seguridad de IA del Reino Unido acceso temprano a modelos para evaluaciones de seguridad.
Informes anteriores de medios indicaron que OpenAI y Anthropic habían comenzado a prepararse para una posible catástrofe de IA y sus consecuencias.
Fuente: HODL Press
