Wenn sich KI schlecht benimmt: Hier kannst du jetzt unerwünschte Verhaltensweisen von Chatbots melden

Künstliche Intelligenz hat längst Einzug in unseren Alltag gehalten – doch nicht immer verhalten sich die digitalen Helfer so, wie wir es erwarten. Chatbots geben falsche Informationen aus, diskriminieren bestimmte Gruppen oder produzieren verstörende Inhalte. Was tun, wenn ein KI-System daneben greift? Ein internationales Forscherteam hat jetzt eine Antwort: ein öffentliches Register, in dem Nutzerinnen und Nutzer unerwünschte Verhaltensweisen von Chatbots und anderen KI-Systemen zentral dokumentieren können.

Warum brauchen wir ein KI-Fehler-Register?

ChatGPT, Claude, Gemini und andere große Sprachmodelle werden von Millionen Menschen täglich genutzt – für die Arbeit, für Recherchen, für persönliche Beratung. Dabei können sie in problematisches Verhalten verfallen: Sie benachteiligen Frauen oder Minderheiten, geben gefährliche medizinische Ratschläge oder reproduzieren Verschwörungserzählungen. Manche dieser Probleme sind bekannt und dokumentiert, viele bleiben jedoch unter dem Radar.

Besonders heikel ist die Lage in sensiblen Anwendungsbereichen. Wenn ein Chatbot falsch auf Fragen zur mentalen Gesundheit antwortet, können die Folgen gravierend sein – zumal immer mehr junge Menschen bei psychischen Problemen Chatbots um Rat fragen. Ebenso problematisch ist der Einsatz in medizinischen oder rechtlichen Kontexten, wo fehlerhafte Ausgaben direkte Konsequenzen haben können.

Das Kernproblem: Das Dokumentieren von KI-Fehlern war bislang unsystematisch. Manchmal landeten Vorfälle in Medienberichten, manchmal in Einzelbeschwerden bei den Anbietern – eine strukturierte, öffentlich zugängliche Erfassung fehlte. Das neue Register soll das ändern. Wenn Probleme sichtbar und für alle einsehbar sind, entsteht Druck auf Unternehmen, ihre Systeme verantwortungsvoller zu entwickeln. Wer sich an Google, Amazon oder Meta beschwert, kann zumindest hoffen, dass die Beschwerde intern dokumentiert wird. Bei KI-Systemen war selbst das bislang nicht standardisiert.

So funktioniert die Meldung von KI-Fehlverhalten

Das Register ist niedrigschwellig gestaltet. Jede Person kann einen Vorfall einreichen – ob selbst erlebt oder aus einer verlässlichen Quelle entnommen. Eine Meldung muss folgende Informationen enthalten:

• Welches KI-System war betroffen?
• Was genau ist schiefgelaufen?
• Wann ereignete sich der Vorfall?
• Welche Konsequenzen hatte das Fehlverhalten?
• Gibt es Belege oder eine Dokumentation (Screenshot, Log, Quelle)?

Nach der Einreichung prüft ein Moderationsteam den Bericht auf Vollständigkeit und Plausibilität. Duplikate und Spam werden herausgefiltert. Anschließend wird der Vorfall in die öffentliche Datenbank aufgenommen und ist dauerhaft abrufbar.

Das Modell orientiert sich am amerikanischen National Transportation Safety Board (NTSB), das Flugzeugunfälle zentral erfasst und analysiert. In der Luftfahrt hat dieses Prinzip die Sicherheit über Jahrzehnte systematisch verbessert – durch Transparenz, Lerneffekte und regulatorischen Druck. Die Übertragung auf KI-Systeme liegt nahe: Auch dort sind Fehler folgenreich, wiederholen sich strukturell und lassen sich durch gezielte Analyse reduzieren.

Welche KI-Systeme sind betroffen? Ein Überblick

Das Register erfasst grundsätzlich alle KI-Systeme. In der Praxis dominieren jedoch Chatbots und große Sprachmodelle die gemeldeten Vorfälle. Die folgende Tabelle zeigt, welche Systeme am häufigsten in Fehler-Datenbanken auftauchen und welche Schwachstellen ihnen typischerweise zugeschrieben werden:

Das Register ist ein erster, überfälliger Schritt hin zu mehr Transparenz im Umgang mit KI-Fehlverhalten. Ob es langfristig Wirkung entfaltet, hängt davon ab, wie viele Menschen es aktiv nutzen – und ob Regulierungsbehörden wie die EU-Kommission im Rahmen des AI Act darauf aufbauen. Die Infrastruktur steht. Jetzt liegt es an Nutzern, Forschern und Gesetzgebern, daraus ein wirksames Instrument zu machen.