Erklärbare KI (XAI) bezeichnet Methoden und Verfahren, mit denen Entscheidungen und Ergebnisse von KI-Systemen für Menschen nachvollziehbar und überprüfbar gemacht werden. Ziel ist es, die wichtigsten Einflussfaktoren eines Modells sichtbar zu machen und damit Transparenz, Vertrauen und Rechenschaft in der KI-gestützten Entscheidungsfindung zu erhöhen. In der öffentlichen Verwaltung ist XAI besonders relevant, wenn automatisierte Bewertungen oder Prognosen (z. B. bei Priorisierungen, Risikoeinschätzungen oder Plausibilitätsprüfungen) begründet und gegenüber Fachstellen oder Betroffenen erläutert werden müssen. Typische Ansätze sind u. a. verständliche Modellbeschreibungen sowie lokale Erklärungen einzelner Entscheidungen, etwa durch Hervorhebung der merkmalsstärksten Beiträge.