
Hintergrund sind mehrere Vorfälle der vergangenen Monate, bei denen KI-Systeme ihre vorgesehenen Grenzen überschritten haben.
Die Plattform kombiniert OpenShell und Sentry. OpenShell überwacht die Aktionen von Agenten und setzt Sicherheitsrichtlinien durch. Sentry ergänzt den Ansatz um eine unabhängige Kontrollinstanz auf separater Hardware. Dadurch sollen Regelverstöße erkannt und betroffene Agenten innerhalb kürzester Zeit isoliert werden können.
Nach Angaben von Nvidia liegt der große Vorteil darin, dass die Sicherheitsmechanismen außerhalb des eigentlichen KI-Systems arbeiten. Selbst wenn ein Agent versucht, Einschränkungen zu umgehen, bleiben die Kontrollfunktionen davon unberührt.
Nvidia geht sogar so weit zu behaupten, dass die Plattform frühere Sicherheitsvorfälle rund um autonome KI-Agenten hätte verhindern können. Gleichzeitig soll die Lösung auch erkennen, wenn Agenten versuchen, Beschränkungen durch zusätzliche Unteragenten zu umgehen.
Unterstützt wird die Initiative bereits von mehr als 100 Unternehmen und Organisationen. Zu den bekanntesten Partnern zählen Microsoft, Anthropic, Cisco, Dell und IBM. Mit dem rasanten Wachstum autonomer KI-Agenten dürfte Sicherheit für die gesamte Branche zu einem der wichtigsten Themen der kommenden Jahre werden.
