KI-Glossar
Halluzination
Kurz erklärt
Eine Halluzination ist eine Antwort, die ein Sprachmodell überzeugend formuliert, die aber sachlich falsch oder frei erfunden ist, etwa eine nicht existierende Quelle, ein falsches Datum oder eine erfundene Vertragsklausel. Halluzinationen entstehen, weil Sprachmodelle Wahrscheinlichkeiten berechnen, nicht Wahrheit prüfen.
Halluzinationen lassen sich nicht wegversprechen, aber wirksam eindämmen: Antworten an echte Dokumente binden (RAG mit Quellenangabe), das Modell anweisen, bei fehlender Grundlage «weiss ich nicht» zu sagen, und überall dort menschliche Freigabe vorsehen, wo Fehler teuer wären.
Für Ihr KMU ist die Regel einfach: KI-Ergebnisse mit Aussenwirkung (Offerten, Kundenantworten, Zahlen) werden geprüft, bevor sie das Haus verlassen. Wer Ihnen ein System ohne diese Kontrolle verkauft, verkauft Ihnen ein Risiko.