A fabricante de chips norte-americana NVIDIA comprometeu-se a fornecer ao Reino Unido US$ 250 milhões em recursos de computação ao longo de cinco anos para apoiar a pesquisa sobre segurança de IA, segundo a Reuters. A iniciativa visa impulsionar a ambição do país de se tornar um polo global para o desenvolvimento de padrões de segurança e a avaliação dos riscos apresentados pela IA.
O Reino Unido busca esse objetivo, em parte, por meio do AI Security Institute, um dos primeiros órgãos governamentais criados para avaliar a tecnologia, segundo a reportagem.
Testes de sistemas de IA agêntica
O fundador e CEO da NVIDIA, Jensen Huang, afirmou que o Reino Unido receberá US$ 50 milhões em recursos de computação acelerada por ano. Pesquisadores usarão essa capacidade para testar a segurança de sistemas de IA agêntica e desenvolver salvaguardas para modelos cada vez mais poderosos.
“As capacidades e a segurança da IA devem avançar juntas”, disse Huang.
Huang afirmou que o Reino Unido está transformando liderança científica em soluções práticas e o progresso científico em um futuro que beneficia as pessoas.
A atenção à segurança da IA aumentou após relatos de desenvolvedores, incluindo Anthropic e OpenAI, sobre comportamentos descontrolados ou indesejáveis de agentes de IA. Algumas figuras do setor também alertaram que a tecnologia poderia representar uma ameaça existencial para a humanidade.
O ministro britânico de IA, Kanishka Narayan, afirmou que a contribuição da NVIDIA ajudaria a assegurar o desenvolvimento de uma IA segura e confiável que sirva aos interesses das pessoas.
Projetos de pesquisa
Os recursos de computação da NVIDIA apoiarão várias linhas de pesquisa no Reino Unido. Entre elas está o BOLD, um projeto liderado pela Universidade de Oxford que desenvolve abordagens para treinar, adaptar e operar sistemas de IA ao lado de humanos.
O compromisso também abrangerá pesquisas sobre segurança em robótica no Imperial College London e programas na University College London.
A NVIDIA havia apresentado anteriormente uma plataforma para controlar agentes de IA.
Fonte: HODL Press
