El CEO de Meta, Mark Zuckerberg, se pronunció contra una desaceleración coordinada del desarrollo de sistemas avanzados de inteligencia artificial, al sostener que cada laboratorio debería decidir a qué velocidad puede entrenar modelos de forma segura. Sus declaraciones se produjeron en medio de un debate más amplio sobre si los desarrolladores deberían ralentizar el trabajo en los modelos de IA más potentes.
Zuckerberg afirmó que las empresas ya tienen un incentivo natural para mejorar la seguridad de los productos. Los usuarios no elegirán agentes que actúen en contra de sus intenciones, dijo, por lo que la confianza y la alineación con los objetivos humanos representan ventajas competitivas.
Meta retrasó Muse por preocupaciones de seguridad
Meta retrasó previamente el lanzamiento de Muse varios meses para centrarse en la seguridad y la protección del agente de IA, dijo Zuckerberg. Subrayó que Meta tomó la decisión de forma independiente y no pidió a otras empresas que pausaran su propio trabajo.
Meta abrió el acceso a Muse el 9 de septiembre. El agente puede trabajar con correo electrónico, calendarios, navegadores y servicios conectados.
La empresa dijo que Muse opera en una máquina virtual dedicada en la nube. Un agente independiente, Sentinel, supervisa sus acciones en plataformas externas, y Meta ofreció recompensas de hasta 300.000 dólares por identificar vulnerabilidades en el sistema.
El retraso de Muse no fue el único caso en el que los planes de IA de Meta quedaron por debajo de sus expectativas iniciales. Zuckerberg reconoció anteriormente que el desarrollo de agentes de IA no se había acelerado tan rápido como esperaban los directivos de la empresa.
En medio de un crecimiento de la productividad más débil de lo esperado, Meta también abandonó una segunda ronda de reestructuración de plantilla a gran escala.
Debate del sector sobre una acción coordinada
El CEO de Anthropic, Dario Amodei, propuso anteriormente un plan de tres pasos que incluye auditorías independientes y coordinación entre las principales empresas de IA. El CEO de OpenAI, Sam Altman, y Elon Musk respaldaron la iniciativa.
La posición de Zuckerberg no excluye ralentizar el desarrollo de IA cuando una empresa lo considere necesario. En cambio, sostiene que las empresas individuales deberían reducir su ritmo de forma independiente, en lugar de mediante una pausa para todo el sector, y cita como ejemplo la decisión de Meta de retrasar Muse.
Fuente: HODL Press
