KI-Halluzinationen

KI-Halluzinationen

KI-Hal­luz­i­na­tio­nen beze­ich­nen Sit­u­a­tio­nen, in denen ein KI-Mod­ell Inhalte pro­duziert, die al­lerdings inhaltlich falsch, frei erfun­den oder nicht über­prüf­bar sind — trotz ein­er in sich stim­mi­gen Plausibilität. 

Der Begriff resul­tiert daher, dass die KI sozusagen „hal­luziniert“ — also Dat­en liefert, die nicht auf realen Dat­en basieren, son­dern — sozusagen aus dem Gedächt­nis her­aus — auf­grund ihrer Berech­nungsmuster und Wahrschein­lichkeit­en er­zeugt werden. 

Am meis­ten treten diese Phänomene bei gen­er­a­tiv­en Sprach­mod­ellen auf, die auf­mas­siv­en Daten­men­gen basieren. 

Statt gezielt zu fälschen, fol­gt die KI lediglich­sta­tis­tis­chen Mustern: Sie fügt Wörter so zusam­men, dass sie sprach­lich kor­rekt sind,ohne dass ein tat­säch­lich­es Fak­ten­ver­ständ­nis dahin­ter­steckt. Das führt dazu, dar­rassierende Zahlen, Quellen, Zitate oder gar Beweise erfun­den wer­den können. 

Für den prak­tis­chen Ein­satz — etwa bei Chat­bots, im Kun­denser­vice oder in der pro­fes­sionellen Ver­wen­dung ‑haben KI-Hal­luz­i­na­tio­nen eine hohe Risikotiefe. 

Unternehmen müssen deshalb Gegen­maß­nah­men ein­bauen, wie Guardrails set­zen oder Fak­tenüber­prü­fun­gen durch­führen , um die Zuver­läs­sigkeit des Ergeb­niss­es zu gewährleisten. 

Je bess­er die Mod­elle trainiert sind und je bess­er die Gren­zen des Wis­sens gek­lärt sind, desto geringer ist dies­bezüglich­das Risiko solch­er Halluzinationen.