Meta erweitert seine Sicherheitsfunktionen für Jugendliche und führt ein neues Warnsystem ein, das Eltern informiert, wenn ihre Teenager in Gesprächen mit Meta-AI Hinweise auf Selbstgefährdung äußern.
Die Funktion steht auf Instagram, Facebook und Meta-Horizons zur Verfügung, setzt jedoch voraus, dass Eltern die Familienaufsicht aktivieren und die entsprechenden Konten ihrer Kinder verknüpfen.
Meta betont, dass die neue Maßnahme bestehende Schutzmechanismen ergänzt: Bereits heute verweist Meta-AI Jugendliche bei Äußerungen zu Suizid oder Selbstverletzung auf Krisenhilfen und ermutigt sie, sich an vertraute Erwachsene zu wenden. Neu ist, dass nun auch Eltern proaktiv benachrichtigt werden, wenn die KI potenziell riskante Aussagen erkennt.
Um Fehlalarme zu vermeiden, sollen alle automatisch markierten Chats zunächst manuell überprüft werden. Meta erklärt, dass man im Zweifel eher eine Warnung aussprechen werde, selbst wenn die Absicht des Teenagers nicht eindeutig sei. Das Unternehmen sieht dies als verantwortungsvollen Ansatz, um Risiken frühzeitig zu erkennen, auch wenn dadurch gelegentlich Eltern informiert werden könnten, ohne dass tatsächlich Gefahr besteht.
Die Funktion ist zunächst in den USA, Kanada, Großbritannien und Australien verfügbar. Parallel dazu plant Meta, die bestehende Praxis aus Facebook und Instagram auf Meta-AI auszuweiten: Erkennt das Unternehmen einen glaubhaften Hinweis auf akute Suizidgefahr, sollen künftig auch bei KI-Chats Notdienste informiert werden. Bereits 2025 wurden weltweit mehr als 19.000 solcher Fälle gemeldet, bei denen Einsatzkräfte sogenannte Wellness-Checks durchführten.
Meta betont, dass die neuen Maßnahmen Teil einer umfassenden Strategie sind, um Jugendliche besser zu schützen und Eltern stärker einzubinden. Kritiker weisen jedoch darauf hin, dass die Balance zwischen Privatsphäre, Sicherheit und Überwachung sensibel bleibt. Klar ist: Mit der Integration von KI in die Kommunikation junger Nutzer entstehen neue Verantwortlichkeiten, und Meta versucht, diese durch zusätzliche Kontrollmechanismen zu adressieren.
