NVIDIA hat dem Vereinigten Königreich über fünf Jahre Rechenressourcen im Wert von 250 Millionen US-Dollar für die Forschung zur Sicherheit künstlicher Intelligenz zugesagt.

Das Land wird jährlich beschleunigte Rechenressourcen im Wert von 50 Millionen US-Dollar erhalten, darunter Kapazitäten zur Prüfung der Sicherheit agentenbasierter KI-Systeme.

Die Ressourcen werden Projekte an der University of Oxford, dem Imperial College London und dem University College London unterstützen.

Der US-Chiphersteller NVIDIA hat dem Vereinigten Königreich laut einem Reuters-Bericht zugesagt, über fünf Jahre Rechenressourcen im Wert von 250 Millionen US-Dollar zur Unterstützung der KI-Sicherheitsforschung bereitzustellen. Die Initiative soll das Ziel des Landes voranbringen, zu einem globalen Zentrum für die Entwicklung von Sicherheitsstandards und die Bewertung der von KI ausgehenden Risiken zu werden.

Das Vereinigte Königreich verfolgt dieses Ziel dem Bericht zufolge unter anderem über das AI Security Institute, eine der ersten Regierungsstellen, die geschaffen wurden, um die Technologie zu bewerten.

Tests agentenbasierter KI-Systeme

NVIDIA-Gründer und CEO Jensen Huang sagte, das Vereinigte Königreich werde jährlich beschleunigte Rechenressourcen im Wert von 50 Millionen US-Dollar erhalten. Forschende werden die Kapazitäten nutzen, um die Sicherheit agentenbasierter KI-Systeme zu testen und Schutzmaßnahmen für zunehmend leistungsfähige Modelle zu entwickeln.

„KI-Fähigkeiten und Sicherheit müssen gemeinsam voranschreiten“, sagte Huang.

Huang sagte, das Vereinigte Königreich verwandle wissenschaftliche Führungsrolle in praktische Lösungen und wissenschaftlichen Fortschritt in eine Zukunft, die den Menschen zugutekommt.

Die Aufmerksamkeit für KI-Sicherheit hat zugenommen, nachdem Entwickler, darunter Anthropic und OpenAI, über unkontrolliertes oder unerwünschtes Verhalten von KI-Agenten berichtet hatten. Einige Branchenvertreter haben zudem gewarnt, dass die Technologie eine existenzielle Bedrohung für die Menschheit darstellen könnte.

Der britische KI-Minister Kanishka Narayan sagte, NVIDIAs Beitrag werde dazu beitragen, die Entwicklung sicherer und vertrauenswürdiger KI zu gewährleisten, die den Interessen der Menschen dient.

Forschungsprojekte

NVIDIAs Rechenressourcen werden mehrere Forschungsstränge im Vereinigten Königreich unterstützen. Dazu gehört BOLD, ein von der University of Oxford geleitetes Projekt, das Ansätze für das Training, die Anpassung und den Betrieb von KI-Systemen gemeinsam mit Menschen entwickelt.

Die Zusage wird zudem Forschung zur Robotiksicherheit am Imperial College London sowie Programme am University College London abdecken.

NVIDIA hatte zuvor eine Plattform zur Steuerung von KI-Agenten vorgestellt.

Quelle: HODL Press