TweakPC

Nvidia baut Sicherheitszaun für KI-Agenten: 100 Firmen unterstützen die neue Plattform

Montag, 28. Sep. 2026 18:32 - [ar] - Quelle: techspot.com

Nvidia hat die Open Agent Safety Platform vorgestellt. Die Sicherheitslösung soll verhindern, dass autonome KI-Agenten festgelegte Regeln umgehen oder unerwünschte Aktionen ausführen.

Nvidia baut Sicherheitszaun für KI-Agenten: 100 Firmen unterstützen die neue Plattform

Hintergrund sind mehrere Vorfälle der vergangenen Monate, bei denen KI-Systeme ihre vorgesehenen Grenzen überschritten haben.

Die Plattform kombiniert OpenShell und Sentry. OpenShell überwacht die Aktionen von Agenten und setzt Sicherheitsrichtlinien durch. Sentry ergänzt den Ansatz um eine unabhängige Kontrollinstanz auf separater Hardware. Dadurch sollen Regelverstöße erkannt und betroffene Agenten innerhalb kürzester Zeit isoliert werden können.

Nach Angaben von Nvidia liegt der große Vorteil darin, dass die Sicherheitsmechanismen außerhalb des eigentlichen KI-Systems arbeiten. Selbst wenn ein Agent versucht, Einschränkungen zu umgehen, bleiben die Kontrollfunktionen davon unberührt.

Nvidia geht sogar so weit zu behaupten, dass die Plattform frühere Sicherheitsvorfälle rund um autonome KI-Agenten hätte verhindern können. Gleichzeitig soll die Lösung auch erkennen, wenn Agenten versuchen, Beschränkungen durch zusätzliche Unteragenten zu umgehen.

Unterstützt wird die Initiative bereits von mehr als 100 Unternehmen und Organisationen. Zu den bekanntesten Partnern zählen Microsoft, Anthropic, Cisco, Dell und IBM. Mit dem rasanten Wachstum autonomer KI-Agenten dürfte Sicherheit für die gesamte Branche zu einem der wichtigsten Themen der kommenden Jahre werden.

Nvidia baut Sicherheitszaun für KI-Agenten: 100 Firmen unterstützen die neue Plattform

Verwandte Testberichte, News, Kommentare
ueber TweakPC: Impressum, Datenschutz Copyright 1999-2026 TweakPC, Alle Rechte vorbehalten, all rights reserved. Mit * gekennzeichnete Links sind Affiliates.