Glossar

Was ist Halluzination (KI)?

Eine Halluzination ist eine Aussage eines KI-Sprachmodells, die flüssig und überzeugend formuliert ist, aber sachlich falsch oder durch keine Quelle gedeckt ist. Sie entsteht, weil Sprachmodelle wahrscheinliche Wortfolgen erzeugen und nicht von sich aus Fakten prüfen. Quellenbasierte Verfahren wie RAG verringern das Risiko, beseitigen es aber nicht.

Einfach erklärt

Denken Sie an einen sehr belesenen Kollegen, der ungern „Das weiß ich nicht“ sagt. Fragt man ihn nach einem Detail, das er nicht kennt, ergänzt er die Lücke mit etwas, das plausibel klingt, etwa einer Paragrafennummer oder einem Datum. Er lügt nicht absichtlich, er füllt nur auf. Deshalb gilt bei KI wie bei diesem Kollegen: Wichtige Aussagen prüft man an der Quelle, bevor man sie weitergibt.

Im Unternehmen

Die Beispiel Versicherung lässt einen KI-Assistenten Fragen zu internen Richtlinien beantworten. Ohne Quellenanbindung nennt der Assistent einmal eine Freigabegrenze, die in keiner Richtlinie steht. Nach der Umstellung auf ein quellenbasiertes System zeigt jede Antwort das Dokument und die Seite an. Die Mitarbeiterinnen und Mitarbeiter sind angewiesen, Beträge und Fristen immer an der angezeigten Fundstelle zu kontrollieren. Steht die Aussage dort nicht, wird sie nicht verwendet.

Verwandte Begriffe

Quellen

  1. Huang et al. (2023): A Survey on Hallucination in Large Language Models (arXiv:2311.05232)
  2. Ji et al. (2022): Survey of Hallucination in Natural Language Generation (arXiv:2202.03629)

Wie wir das einsetzen: UNID AI Second Brain · Das zweite Gehirn für Ihr Unternehmenswissen

← Alle Begriffe

FAQ

Häufige Fragen

Verhindern Quellenangaben Halluzinationen vollständig?

Nein. Auch mit Quellen kann ein Modell eine Textstelle falsch zusammenfassen oder eine Quelle nennen, die die Aussage nicht stützt. Quellenangaben machen Fehler aber überprüfbar: Wer das Zitat mit der angegebenen Seite vergleicht, erkennt eine Halluzination in der Regel schnell.

Sehen Sie es mit Ihren eigenen Unterlagen.

In einem 30-minütigen Gespräch zeigen wir die Produkte live und klären, welcher Anwendungsfall bei Ihnen zuerst Sinn ergibt. Unverbindlich, auf Deutsch oder Englisch, in Wien oder online.

UNID AI · Leonard-Bernstein-Straße 10 · 1220 Wien · +43 660 476 30 89