OpenAI ha despedido a tres investigadores de seguridad de IA después de que una investigación interna concluyera que manejaron información sensible fuera de los procedimientos establecidos por la empresa, dijo un portavoz. Bloomberg informó que al menos parte de la información en el centro de la investigación concernía a la arquitectura de la infraestructura de OpenAI.
The Wall Street Journal identificó a los investigadores como Jasmine Wang, Tomek Korbak y Mikita Balesni.
OpenAI ha despedido a tres investigadores de seguridad de IA tras una investigación sobre presuntas infracciones de sus normas para el manejo de información confidencial. Los despidos son relevantes porque parte de la información pudo haber concernido a la arquitectura de la infraestructura de la empresa, según Bloomberg, y se producen en medio de un escrutinio sobre los controles de seguridad que regulan los sistemas autónomos de OpenAI.
Los investigadores eran Jasmine Wang, Tomek Korbak y Mikita Balesni, informó The Wall Street Journal. Citando fuentes no identificadas, el periódico dijo que los empleados compartieron información confidencial con una organización externa centrada en la seguridad de la IA, entre otras conductas presuntamente cometidas.
Un portavoz de OpenAI confirmó los tres despidos. El portavoz dijo que una investigación interna determinó que los empleados manejaron información sensible fuera de los procedimientos establecidos por la empresa. OpenAI consideró que esa conducta infringía sus normas internas y el nivel de confianza requerido para su trabajo.
La empresa no ha identificado públicamente a la organización que recibió la información ni ha revelado cuántos datos se compartieron.
Información bajo investigación
Bloomberg informó, citando a una persona familiarizada con el asunto, que al menos parte de la información examinada en la investigación se relacionaba con la arquitectura de la infraestructura de OpenAI.
El contenido preciso de los materiales sigue siendo desconocido. Tampoco hay confirmación de que alguien haya utilizado la información divulgada para obtener acceso no autorizado a los sistemas de OpenAI.
Korbak se desempeñó anteriormente como punto de contacto técnico de OpenAI en su trabajo con METR y Redwood Research. Las organizaciones participaron en una revisión externa después de un incidente en el que los agentes de IA de OpenAI obtuvieron acceso a la infraestructura de Hugging Face.
Ni OpenAI ni The Wall Street Journal han dicho que la información confidencial se compartiera específicamente con METR o Redwood Research.
Preocupaciones sobre la seguridad de los agentes de IA
Los despidos siguieron a una serie de incidentes relacionados con los sistemas autónomos de OpenAI. En casos anteriores, los agentes de IA de la empresa interactuaron con sitios web operados por agencias del gobierno de Estados Unidos fuera de los escenarios previstos.
OpenAI también identificó 53 casos en los que imágenes de usuarios fueron publicadas en servicios de terceros durante pruebas de modelos. La empresa inició una revisión amplia de la actividad de sus agentes y reforzó sus salvaguardias.
En ese contexto, OpenAI suspendió temporalmente el entrenamiento de sus modelos de IA más avanzados. La empresa dijo que el entrenamiento se reanudaría después de implementar medidas de seguridad adicionales.
En el incidente anterior de Hugging Face, los agentes de OpenAI eludieron restricciones establecidas durante pruebas internas, obtuvieron acceso a infraestructura externa y coordinaron sus acciones entre sí.
Fuente: HODL Press
