Eine Halluzination (auch Konfabulation) bezeichnet bei generativer KI eine Ausgabe, die sprachlich plausibel und überzeugend wirkt, inhaltlich aber falsch, erfunden oder nicht durch Quellen gedeckt ist – etwa nicht existierende Paragrafen, Urteile, Zitate oder Literaturangaben. Ursache ist, dass Sprachmodelle wahrscheinliche Wortfolgen erzeugen und keine Fakten nachschlagen. Verfahren wie Retrieval-Augmented Generation (RAG) verringern das Risiko, beseitigen es aber nicht; KI-Ergebnisse sind daher vor jeder dienstlichen Verwendung fachlich zu prüfen.