O CEO da Meta, Mark Zuckerberg, manifestou-se contra uma desaceleração coordenada no desenvolvimento de sistemas avançados de inteligência artificial, argumentando que cada laboratório deve decidir com que rapidez consegue treinar modelos de forma segura. Suas declarações ocorrem em meio a um debate mais amplo sobre se os desenvolvedores deveriam desacelerar o trabalho nos modelos de IA mais poderosos.

Zuckerberg afirmou que as empresas já têm um incentivo natural para melhorar a segurança dos produtos. Os usuários não escolherão agentes que ajam contra suas intenções, disse ele, tornando a confiança e o alinhamento com objetivos humanos vantagens competitivas.

Meta adiou Muse por preocupações de segurança

A Meta adiou anteriormente o lançamento do Muse por vários meses para se concentrar na segurança e na proteção do agente de IA, afirmou Zuckerberg. Ele ressaltou que a Meta tomou a decisão de forma independente e não pediu que outras empresas interrompessem seu próprio trabalho. 

A Meta abriu o acesso ao Muse em 9 de setembro. O agente pode trabalhar com e-mails, calendários, navegadores e serviços conectados.

A empresa informou que o Muse opera em uma máquina virtual dedicada na nuvem. Um agente separado, chamado Sentinel, monitora suas ações em plataformas externas, e a Meta ofereceu recompensas de até US$ 300.000 pela identificação de vulnerabilidades no sistema.

O adiamento do Muse não foi o único caso em que os planos de IA da Meta ficaram aquém de suas expectativas iniciais. Zuckerberg reconheceu anteriormente que o desenvolvimento de agentes de IA não havia acelerado tão rapidamente quanto os líderes da empresa esperavam.

Em meio a um crescimento de produtividade mais fraco do que o esperado, a Meta também abandonou uma segunda rodada de reestruturação da força de trabalho em larga escala.

Debate do setor sobre ação coordenada

O CEO da Anthropic, Dario Amodei, propôs anteriormente um plano de três etapas que inclui auditorias independentes e coordenação entre as principais empresas de IA. O CEO da OpenAI, Sam Altman, e Elon Musk apoiaram a iniciativa.

A posição de Zuckerberg não exclui desacelerar o desenvolvimento de IA quando uma empresa considerar isso necessário. Em vez disso, ele argumenta que empresas individuais devem reduzir seu ritmo de forma independente, e não por meio de uma pausa em todo o setor, citando como exemplo a decisão da Meta de adiar o Muse.

Fonte: HODL Press