KI-Halluzinationen

KI-Halluzinationen

Definition:

KI-Hal­luz­i­na­tio­nen (englisch: AI Hal­lu­ci­na­tions) treten auf, wenn ein KI-Mod­ell – zum Beispiel ein Chat­bot oder ein Large Lan­guage Mod­el (LLM) – Antworten gener­iert, die zwar plau­si­bel klin­gen, aber fak­tisch falsch, unge­nau oder frei erfun­den sind. Das bedeutet, die KI „hal­luziniert“ Inhalte, die nicht mit der Real­ität oder den Train­ings­dat­en übereinstimmen.

Wie entstehen KI-Halluzinationen?

• Wahrschein­lichkeits­basierte Vorher­sagen: LLMs wählen Wörter nach Wahrschein­lichkeit, nicht nach „Wahrheit“.

• Unvoll­ständi­ge Train­ings­dat­en: Wenn bes­timmte Infor­ma­tio­nen fehlen, füllt die KI Lück­en kreativ aus.

• Über­an­pas­sung: Mod­elle neigen dazu, auch dann Antworten zu gener­ieren, wenn sie eigentlich keine Daten­ba­sis haben.

• Fehler­hafte Prompts: Unge­naue oder missver­ständliche Eingaben kön­nen falsche Ergeb­nisse verstärken.

Einsatzgebiete, in denen Halluzinationen kritisch sind:

• Health­care: Falsche medi­zinis­che Ratschläge kön­nen gefährlich sein.

• Recht: KI kön­nte Geset­ze oder Urteile erfinden.

• Finanzen: Risiko durch falsche Zahlen oder „phan­tasierte“ Analysen.

• Wis­senschaft & Bil­dung: Gener­ierung von nicht existieren­den Quellen oder Studien.

Vorteile und Nachteile im Überblick:

• Vorteile: Hal­luz­i­na­tio­nen zeigen die kreative Fähigkeit von KI (z. B. im Sto­ry­telling oder in der Kunst).

• Nachteile: Ver­trauensver­lust, Fehlin­for­ma­tio­nen, rechtliche Risiken.

Unterschied zwischen KI-Halluzinationen und klassischen Fehlern:

• Klas­sis­che Fehler: Entste­hen durch falsche Pro­gram­mierung oder Datenfehler.

• KI-Hal­luz­i­na­tio­nen: Entste­hen durch die gen­er­a­tive Natur der Mod­elle, die Antworten „erfind­en“, um eine plau­si­ble Kon­ver­sa­tion fortzuführen.

Beispiele für KI-Halluzinationen:

• Ein Chat­bot nen­nt eine wis­senschaftliche Quelle, die nicht existiert.

• Eine KI erfind­et ein Zitat ein­er bekan­nten Persönlichkeit.

• Ein Finan­zas­sis­tent liefert falsche Berech­nun­gen, die jedoch überzeu­gend for­muliert sind.

FAQ zu KI-Halluzinationen:

Was sind KI-Halluzinationen?

Antworten von KI-Sys­te­men, die plau­si­bel wirken, aber fak­tisch falsch oder erfun­den sind.

Warum halluzinieren KIs?

Weil sie Sprache nach Mustern und Wahrschein­lichkeit­en erzeu­gen, nicht nach einem „Ver­ständ­nis“ der Realität.

Wie kann man KI-Halluzinationen vermeiden?

Durch Guardrails, Fact-Check­ing, präzis­ere Prompts und Kom­bi­na­tion mit ver­lässlichen Datenquellen.

Verwandte Begriffe:

• Large Lan­guage Mod­el (LLM)

• Guardrails

• Prompt Engi­neer­ing

• Gen­er­a­tive KI

• Respon­si­ble AI