Eine große Mehrheit der deutschen Unternehmen sieht beim Einsatz von KI-Agenten erhebliche Sicherheitsrisiken. Das geht aus einer repräsentativen Studie hervor, die der TÜV-Verband gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) in Auftrag gegeben hat. Befragt wurden 505 Unternehmen mit mindestens 20 Mitarbeitenden; die Erhebung fand zwischen dem 22. Juni und dem 31. Juli 2026 statt.
Die Ergebnisse sind eindeutig: 84 Prozent der befragten Unternehmen befürchten, dass KI-Agenten auf Grundlage falscher oder erfundener Informationen Fehlentscheidungen treffen. Jeweils 78 Prozent sehen die Gefahr, dass über Schnittstellen zu anderen Systemen neue Sicherheitslücken entstehen, sensible Daten oder Geschäftsgeheimnisse abfließen oder die Systeme ungewollte Aktionen auslösen. 74 Prozent bewerten unklare Verantwortung und Haftung bei Fehlern als hohes Risiko, 65 Prozent eine Manipulation von außen.
KI-Agenten: mehrstufige Autonomie als Risikoquelle
Der TÜV-Verband verweist darauf, dass KI-Agenten Aufgaben über mehrere Schritte hinweg selbstständig bearbeiten und dabei auf andere Anwendungen und Systeme zugreifen. In den vergangenen Monaten seien KI-Agenten wiederholt unkontrolliert aus ihren Testumgebungen ausgebrochen.
"Sicherheitsbedenken bremsen den KI-Einsatz, solange Unternehmen nicht beurteilen können, ob eine KI im Betrieb sicher und kontrollierbar arbeitet", sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands. "Diese Bedenken lassen sich jedoch nicht mit Versprechen der Hersteller ausräumen, sondern nur mit verlässlichen Nachweisen. Unabhängige Prüfungen liefern diese Nachweise und schaffen damit die Vertrauensgrundlage für KI-Innovationen."
Forderung nach unabhängigen Prüfungen von Frontier-Modellen
Anlässlich des internationalen AI Summit am 14. Oktober in Dublin spricht sich der TÜV-Verband für verbindliche Sicherheitsvorgaben für sogenannte Frontier-Modelle aus. Die Forderung richtet sich an die EU-Kommission und die Mitgliedstaaten: KI-Modelle mit besonders hoher Leistungsfähigkeit sollen vor der Markteinführung herstellerunabhängig und im öffentlichen Auftrag geprüft werden.
Laut Bühler seien Frontier-Modelle die Basistechnologie für tausende Anwendungen. Ein Sicherheitsmangel im Modell setze sich in jedem Produkt fort, das darauf aufbaue. "Deshalb brauchen wir international verbindliche Prüfungen vor der Markteinführung – nach gemeinsamen Standards und durch unabhängige Stellen", so Bühler.
Warnung vor Zersplitterung des KI-Rechtsrahmens
Gleichzeitig warnt der TÜV-Verband davor, den europäischen Rechtsrahmen für Hochrisiko-KI zu zersplittern. Nach dem KI-Omnibus, in dem entschieden wurde, Medizinprodukte im direkten Anwendungsbereich des AI Acts zu belassen, drohe bei der Überarbeitung der Medizinprodukteverordnung, dass KI in Medizinprodukten doch noch daraus herausgelöst werde.
Der Verband argumentiert, dass Datenqualität, Robustheit, Cybersicherheit und menschliche Aufsicht keine branchenspezifischen Fragen seien. "Verteilt man die KI-Anforderungen auf einzelne Sektoren, entsteht ein Flickenteppich. Zudem fallen viele Produkte unter mehrere Regelwerke zugleich: Ein OP-Roboter ist Medizinprodukt und Maschine", sagt Bühler. Aus Sicht des TÜV-Verbands sei es perspektivisch einfacher, an einer Stellschraube im AI Act zu drehen, als ständig mehrere Einzelgesetze parallel anzupassen.
Die vollständigen Ergebnisse der KI-Sicherheitsstudie sind auf der Website des TÜV-Verbands abrufbar.
TL;DR
- 84 % der deutschen Unternehmen befürchten Fehlentscheidungen durch KI-Agenten (Studie: TÜV-Verband/BSI, 505 Unternehmen, Befragung Juni-Juli 2026)
- 78 % sehen Risiken bei Schnittstellen, Datenabfluss und unbeabsichtigten Aktionen
- TÜV-Verband fordert unabhängige, herstellerneutrale Prüfungen von Frontier-Modellen vor Markteinführung
- Warnung vor Zersplitterung des europäischen KI-Rechtsrahmens durch branchenspezifische Regelungen
