Google Gemini: Eine KI, die Geschichte umschreibt - und warum das gefährlich ist

Der aktuelle Google-CEO Sundar Pichai soll in einem internen Memo strukturelle Änderungen bei der eigenen KI "Gemini" angekündigt haben, da es zu nicht mehr akzeptablen Fehlern gekommen ist.

Google hat erst in der letzten Woche die Bildgenerierung von Personen durch die eigene Gemini-KI nach Ungenauigkeiten deaktivieren müssen. Aufgefallen waren die Fehler durch historischen Kontext, welcher eklatant und reproduzierbar war. Einige Nutzer hatten den Chatbot aufgefordert historische Bilder zu generieren mit den Gründungsvätern der USA und daraufhin wurden auf dem Bild Personen mit Gesichtern von afroamerikanischer und asiatischer Abstammung generiert.

Weitere Kritik stammt vor allem von konservativen Gruppen, welche der Firma eine allgemein zu liberale Grundeinstellung vorwerfen und Google eine Voreingenommenheit in Bezug auf die eigene KI unterstellen. Anscheinend sind die Probleme dem Google-CEO allerdings sehr bewusst, weshalb er die erstellten Inhalte von der Gemini-KI auch als "völlig inakzeptabel" betitelt und seine Mitarbeiter anhält die Probleme zu beheben.

Laut Pichai sei allerdings keine KI perfekt und die einzige Möglichkeit, mit Fehlern umzugehen, sei diese zu erkennen und zu beheben. Darüber hinaus sollen bereits erhebliche Verbesserungen bei Gemini festgestellt worden sein, welche in künftigen Varianten der KI diese auch verbessern würden. Derzeit arbeiten die Entwickler mit Hochdruck daran, die Probleme mit Gemini zu beheben, damit sichergestellt werden kann, dass sich solche Fehler nicht wiederholen.

Mit verschiedenen Verbesserungsmethoden wie der strukturellen Änderung von Produktrichtlinien, einem verbesserten Einführungsprozess sowie robuste Evaluierung und einer Überprüfung der ethischen Art (Red-Teaming) sollen künftig solche Fehler nicht wieder vorkommen.