NVIDIA se comprometió a aportar 250 millones de dólares en recursos informáticos durante cinco años para apoyar la investigación sobre seguridad de la inteligencia artificial en el Reino Unido.
El país recibirá 50 millones de dólares anuales en recursos de computación acelerada, incluida capacidad para probar la seguridad de sistemas de IA agéntica.
Los recursos respaldarán proyectos en la Universidad de Oxford, el Imperial College London y el University College London.
El fabricante estadounidense de chips NVIDIA se comprometió a proporcionar al Reino Unido 250 millones de dólares en recursos informáticos durante cinco años para apoyar la investigación sobre seguridad de la IA, según Reuters. La iniciativa busca impulsar la ambición del país de convertirse en un centro global para el desarrollo de estándares de seguridad y la evaluación de los riesgos que plantea la IA.
El Reino Unido persigue ese objetivo, en parte, a través del AI Security Institute, uno de los primeros organismos gubernamentales establecidos para evaluar la tecnología, según el informe.
Pruebas de sistemas de IA agéntica
El fundador y CEO de NVIDIA, Jensen Huang, afirmó que el Reino Unido recibirá 50 millones de dólares en recursos de computación acelerada cada año. Los investigadores utilizarán esta capacidad para probar la seguridad de sistemas de IA agéntica y desarrollar salvaguardas para modelos cada vez más potentes.
“Las capacidades y la seguridad de la IA deben avanzar juntas”, afirmó Huang.
Huang dijo que el Reino Unido está convirtiendo el liderazgo científico en soluciones prácticas y el progreso científico en un futuro que beneficie a las personas.
La atención a la seguridad de la IA ha aumentado tras informes de desarrolladores, incluidos Anthropic y OpenAI, sobre comportamientos no controlados o indeseables de agentes de IA. Algunas figuras del sector también han advertido que la tecnología podría suponer una amenaza existencial para la humanidad.
El ministro británico de IA, Kanishka Narayan, dijo que la contribución de NVIDIA ayudaría a garantizar el desarrollo de una IA segura y fiable que sirva a los intereses de las personas.
Proyectos de investigación
Los recursos informáticos de NVIDIA respaldarán varias líneas de investigación en el Reino Unido. Entre ellas se encuentra BOLD, un proyecto liderado por la Universidad de Oxford que desarrolla enfoques para entrenar, adaptar y operar sistemas de IA junto a humanos.
El compromiso también cubrirá investigación sobre seguridad robótica en el Imperial College London y programas en el University College London.
NVIDIA presentó anteriormente una plataforma para controlar agentes de IA.
Fuente: HODL Press
