Meta-Chef Mark Zuckerberg hat sich gegen eine koordinierte Verlangsamung der Entwicklung fortgeschrittener Systeme der künstlichen Intelligenz ausgesprochen und erklärt, jedes Labor sollte selbst entscheiden, wie schnell es Modelle sicher trainieren könne. Seine Äußerungen erfolgten inmitten einer breiteren Debatte darüber, ob Entwickler die Arbeit an den leistungsfähigsten KI-Modellen verlangsamen sollten.

Zuckerberg sagte, Unternehmen hätten bereits einen natürlichen Anreiz, die Produktsicherheit zu verbessern. Nutzer würden keine Agenten wählen, die gegen ihre Absichten handelten, sagte er; Vertrauen und die Ausrichtung an menschlichen Zielen seien daher Wettbewerbsvorteile.

Meta verschob Muse wegen Sicherheitsbedenken

Meta verschob die Veröffentlichung von Muse zuvor um mehrere Monate, um sich auf die Sicherheit und den Schutz des KI-Agenten zu konzentrieren, sagte Zuckerberg. Er betonte, Meta habe die Entscheidung eigenständig getroffen und andere Unternehmen nicht aufgefordert, ihre Arbeit ebenfalls zu pausieren. 

Meta öffnete den Zugang zu Muse am 9. September. Der Agent kann mit E-Mails, Kalendern, Browsern und verbundenen Diensten arbeiten.

Das Unternehmen teilte mit, Muse arbeite in einer dedizierten Cloud-virtuellen Maschine. Ein separater Sentinel-Agent überwache seine Aktionen auf externen Plattformen, und Meta setzte Belohnungen von bis zu 300.000 US-Dollar für das Aufdecken von Schwachstellen im System aus.

Die Verzögerung von Muse war nicht der einzige Fall, in dem Metas KI-Pläne hinter den ursprünglichen Erwartungen zurückblieben. Zuckerberg hatte zuvor eingeräumt, dass sich die Entwicklung von KI-Agenten nicht so schnell beschleunigt habe, wie Unternehmensvertreter gehofft hätten.

Angesichts eines schwächer als erwarteten Produktivitätswachstums gab Meta zudem eine zweite Welle groß angelegter Umstrukturierungen der Belegschaft auf.

Branchenweite Debatte über koordiniertes Vorgehen

Anthropic-Chef Dario Amodei hatte zuvor einen Drei-Stufen-Plan vorgeschlagen, der unabhängige Prüfungen und eine Koordinierung unter führenden KI-Unternehmen umfasst. OpenAI-Chef Sam Altman und Elon Musk unterstützten die Initiative.

Zuckerbergs Position schließt eine Verlangsamung der KI-Entwicklung nicht aus, wenn ein Unternehmen sie für notwendig hält. Vielmehr argumentiert er, dass einzelne Unternehmen ihr Tempo eigenständig drosseln sollten, statt dies durch eine branchenweite Pause zu tun, und verweist dabei auf Metas Entscheidung, Muse zu verschieben.

Quelle: HODL Press