Glossar
Was ist Halluzination (KI)?
Eine Halluzination ist eine Aussage eines KI-Sprachmodells, die flüssig und überzeugend formuliert ist, aber sachlich falsch oder durch keine Quelle gedeckt ist. Sie entsteht, weil Sprachmodelle wahrscheinliche Wortfolgen erzeugen und nicht von sich aus Fakten prüfen. Quellenbasierte Verfahren wie RAG verringern das Risiko, beseitigen es aber nicht.
Einfach erklärt
Denken Sie an einen sehr belesenen Kollegen, der ungern „Das weiß ich nicht“ sagt. Fragt man ihn nach einem Detail, das er nicht kennt, ergänzt er die Lücke mit etwas, das plausibel klingt, etwa einer Paragrafennummer oder einem Datum. Er lügt nicht absichtlich, er füllt nur auf. Deshalb gilt bei KI wie bei diesem Kollegen: Wichtige Aussagen prüft man an der Quelle, bevor man sie weitergibt.
Im Unternehmen
Die Beispiel Versicherung lässt einen KI-Assistenten Fragen zu internen Richtlinien beantworten. Ohne Quellenanbindung nennt der Assistent einmal eine Freigabegrenze, die in keiner Richtlinie steht. Nach der Umstellung auf ein quellenbasiertes System zeigt jede Antwort das Dokument und die Seite an. Die Mitarbeiterinnen und Mitarbeiter sind angewiesen, Beträge und Fristen immer an der angezeigten Fundstelle zu kontrollieren. Steht die Aussage dort nicht, wird sie nicht verwendet.
Verwandte Begriffe
Quellen
- Huang et al. (2023): A Survey on Hallucination in Large Language Models (arXiv:2311.05232)
- Ji et al. (2022): Survey of Hallucination in Natural Language Generation (arXiv:2202.03629)
Wie wir das einsetzen: UNID AI Second Brain · Das zweite Gehirn für Ihr Unternehmenswissen
FAQ
Häufige Fragen
Verhindern Quellenangaben Halluzinationen vollständig?
Sehen Sie es mit Ihren eigenen Unterlagen.
In einem 30-minütigen Gespräch zeigen wir die Produkte live und klären, welcher Anwendungsfall bei Ihnen zuerst Sinn ergibt. Unverbindlich, auf Deutsch oder Englisch, in Wien oder online.
UNID AI · Leonard-Bernstein-Straße 10 · 1220 Wien · +43 660 476 30 89