Schlüssig, aber falsch: KI-Halluzinationen
Ist die KI allwissend? Zumindest wirkt es oft, als hätte „die KI“ in Sekundenschnelle auf alles eine glaubwürdige und nachvollziehbare Antwort. So hilfreich generative KI auch scheint, so gefährlich kann hier blindes Vertrauen sein.
Was sind KI-Halluzinationen?
Auch wenn die KI-Antwort glaubwürdig klingen mag – künstliche Intelligenz ist nicht fehlerfrei. Wenn KI-generierte Antworten von den vorgegebenen Quellen abweichen und die Maschine Fakten erfindet, spricht man von „KI-Halluzinationen“. Fehlen verlässliche Quellen oder der passende Fachkontext, können sie Wissenslücken mit erfundenen Aussagen füllen, ohne diese Unsicherheit kenntlich zu machen. Die NIST beschreibt KI-Halluzinationen als selbstsicher präsentierte, fehlerhafte oder falsche Inhalte. (Vgl. NIST, 2024) In einigen Branchen können diese falschen Antworten schwerwiegende Konsequenzen mit sich bringen, weshalb in diesen Fällen und Fachgebieten besonders viel Kontext gefragt ist. (Vgl. Koschke, 2026)
Besonders kritisch ist dabei, dass eine KI nicht von sich aus kenntlich machen muss, dass sie keine belastbaren Belege gefunden und stattdessen Annahmen getroffen hat. Statt Unsicherheit transparent zu machen, kann sie eine scheinbar nachvollziehbare Antwort formulieren. Im AI Index 2026 von Stanford lagen die Halluzinationsraten in einem Benchmark über 26 führende Modelle hinweg zwischen 22 und 94 Prozent. In der dokumentierten Auswahl von 30 Modellen bei der Artificial Analysis erreichte das genaueste Modell sogar lediglich 67 Prozent korrekte Antworten. (vgl. Stanford HAI, 2026; Artificial Analysis, Stand: 06.10.2026)
Gerade in komplexen Fachgebieten braucht KI deshalb relevante, nachvollziehbare Quellen und Menschen, die Ergebnisse prüfen und Verantwortung übernehmen.
Warum KI Kontext braucht
Der richtige Kontext kann helfen, Halluzinationen zu verringern. Kontext ist dabei nicht gleich Kontext. KI braucht für jede Aufgabe den inhaltlich passenden, aktuellen und freigegebenen Kontext. Ein vollständiger Zugriff auf alle verfügbaren Daten ist dabei meist nicht zwingend notwendig und kann sogar hinderlich sein. (Vgl. NIST, 2024)
Als klassischen Use Case aus der Versicherungsbranche kann ein Schadenvorgang genannt werden, der von einem KI-Agenten abgewickelt bzw. vorbereitet wird. Die KI darf dabei ausschließlich auf die für die beschriebene Sachbearbeitung freigegebenen und aktuellen Vertrags-, Schadens- und Kommunikationsdaten zugreifen (= Kontext!). Der KI-Agent muss zudem seine Quellen dokumentieren und fehlende oder widersprüchliche Informationen kennzeichnen. Die finale Entscheidung bzw. Freigabe liegt dann jedoch beim verantwortlichen Sachbearbeiter, der als menschlicher Kontrollpunkt zwingend notwendig ist.
Faktencheck
Verlässliche Antworten liefert KI nicht automatisch durch den maximalen Datenzugriff. Um KI-Halluzinationen zu reduzieren, kann (neben dem detaillierten Prompt-Auftrag) ein klar begrenzter und nachvollziehbarer Kontext hilfreich sein. Darüber hinaus sollte besonders bei der Arbeit mit sensiblen Daten oder Branchen, in denen viel Fachwissen gefordert ist, ein menschlicher Kontrollpunkt bzw. Human Oversight gegeben sein.
Quellen
Artificial Analysis (2026). https://artificialanalysis.ai/evaluations/omniscience (06.10.2026)
Koschke, M. (2026). KI Halluzinationen – Was heißt das genau? https://blog.rwth-aachen.de/itc/2026/02/26/ki-halluzinationen-was-heisst-das-genau/ (06.10.2026)
NIST Trustworthy and Responsible AI. NIST AI 600-1 (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (06.10.2026)
Stanfort HAI (2026). Artificial Intelligence Index Report 2026 https://hai.stanford.edu/assets/files/ai_index_report_2026.pdf (08.10.2026)