Die Allianz baut auf bestehenden Open-Source-Initiativen wie Akrites und OpenSSF auf und soll helfen, Sicherheits-Schwachstellen schneller zu erkennen und offenzulegen. Der Ansatz folgt der Überzeugung, dass offene Modelle entscheidend sind, um KI-Systeme nachvollziehbar, überprüfbar und anpassbar zu halten. Geschlossene Systeme bleiben wichtig, doch für Cyberabwehr sind offene Werkzeuge oft unverzichtbar.
Ein zentraler Auslöser war der jüngste Sicherheitsvorfall bei Hugging Face. Dort blockierten geschlossene KI-Systeme die forensische Analyse, weil sie Angreifer und Verteidiger nicht unterscheiden konnten. Erst der Einsatz des offenen GLM-5.2-Modells ermöglichte die Untersuchung von über 17.000 Aktionen und die Eindämmung des Angriffs. Die Allianz sieht darin ein Beispiel dafür, dass Verteidiger offene KI benötigen, um schnell reagieren zu können und nicht von proprietären Plattformen abhängig zu sein.
Die Liste der Partner ist umfangreich. Neben NVIDIA sind unter anderem Adobe, Cisco, CrowdStrike, Databricks, Dell Technologies, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, Red Hat, Salesforce, SAP, Siemens, SK Telecom, Snowflake, Synopsys und weitere Unternehmen beteiligt. Gemeinsam wollen sie eine offene Verteidigungsarchitektur entwickeln, die Identität, Isolation, sichere Modellformate, Multi-Model-Scanning und sichere Coding-Workflows umfasst. NVIDIA trägt mit offenen Modellen, Daten und dem neuen NOOA-Framework bei, das Agentenverhalten besser prüfbar und auditierbar machen soll.
Weitere Beiträge kommen von HPE mit Zero-Trust-Identitätsstandards, Hugging Face mit Safetensors für sichere Modellgewichte, IBM und Red Hat mit signierten Patches für die Lieferkette und Microsoft mit dem MDASH-Harness für KI-gestützte Schwachstellenanalyse. SpaceXAI stellt den offenen Grok-Build-Coding-Agent bereit und plant, die Modellgewichte der Grok-Reihe zu veröffentlichen.
Die Allianz fordert politische Entscheidungsträger auf, offene KI-Sicherheitswerkzeuge als Verteidigungsressourcen anzuerkennen. Pauschale Einschränkungen offener Modelle würden die Abwehr schwächen und Abhängigkeiten von wenigen geschlossenen Anbietern verstärken. Stattdessen sollen Staaten und Unternehmen in offene Infrastruktur für KI-Verteidigung investieren, darunter Datensätze, Evaluierungsrahmen und Angriffssimulatoren.
