Kumulative Dissertation, Otto-Friedrich-Universität Bamberg, 2026

Entwicklungen im Bereich der Künstlichen Intelligenz (KI) haben die Bearbeitung vieler Aufgaben in unserem Alltag und Berufsleben verändert. Empirische Studien zeigen, dass KI-Systeme in spezifischen Anwendungsfeldern Aufgaben automatisiert mit hoher Genauigkeit und teils überlegener Performanz im Vergleich zu vielen menschlichen Experten ausführen können (z. B. Esteva et al., 2017; Silver et al., 2016). Trotz beeindruckender Leistungen der KI verbleibt die Verantwortung für die Konsequenzen von KI-basierten Entscheidungen beim Menschen (Sturm et al., 2023). Damit verschiebt sich der Fokus für viele Aufgaben von der automatisierten Aufgabenausführung hin zu einer kollaborativen Interaktion zwischen Mensch und KI-basierter Entscheidungsunterstützung (Wilson und Daugherty, 2018).

Ein zentraler Erfolgsfaktor für diese Kollaboration scheint die Erklärbarkeit der zugrunde liegenden Modelle des maschinellen Lernens zu sein (vgl. Hemmer et al., 2022), die im Zentrum des Forschungsfelds der erklärbaren KI steht (vgl. Adadi und Berrada, 2018). Studien in der Literatur zu Informationssystemen (IS) verweisen auf Vorteile durch Erklärungen, wie beispielsweise ein höheres Vertrauen in KI (z. B. Meske und Bunde, 2022), eine höhere Akzeptanz (z. B. Gönül et al., 2006) sowie eine verbesserte menschliche Entscheidungsperformanz (z. B. Förster et al., 2025). Wobei sich in der Literatur ein relativ konsistentes Bild hinsichtlich des Einflusses von Erklärbarkeit auf Vertrauen zeigt (vgl. Atf und Lewis, 2025), ist das Bild zur Entscheidungsperformanz ambivalent: Während einige Studien positive Effekte durch erklärbare KI-basierte Entscheidungsunterstützung berichten (z. B. Lai et al., 2020), finden andere keine oder sogar negative Effekte (z. B. Bauer et al., 2023; Carton et al., 2020). Diese Heterogenität der Effekte legt nahe, dass die Effektivität von erklärbarer KI (d. h. die Wirkung von Erklärbarkeit als Merkmal von KI) für die Entscheidungsunterstützung von verschiedenen Einflussfaktoren abhängt – und weniger robust und konsistent ist, als häufig angenommen (vgl. Schemmer et al., 2022). Für die Diskrepanz zwischen der angenommenen und beobachteten Effektivität könnten mehrere Faktoren eine entscheidende Rolle spielen. Einerseits könnten Einschränkungen der derzeitigen Methoden, etwa in Bezug auf die Qualität der bereitgestellten Erklärungen, von Bedeutung sein (vgl. Rudin, 2019). Andererseits könnten menschliche Faktoren, wie Präferenzen oder kognitive Prozesse bei der Nutzung von Erklärungen, maßgeblich zur Heterogenität der Effekte beitragen (vgl. Bauer et al., 2021; Fürnkranz et al., 2020). Zudem wurden die Effekte von erklärbarer KI-basierter Entscheidungsunterstützung vor allem in kontrollierten Umgebungen untersucht (z. B. Förster et al., 2025), wohingegen Feldstudien, die reale Anwendungskontexte berücksichtigen, bislang selten sind (Brasse et al., 2023).

Vor diesem Hintergrund wird deutlich, dass Erklärbarkeit zwar häufig als Schlüsselfaktor für die Effektivität von KI-basierter Entscheidungsunterstützung angeführt wird (z. B. Hemmer et al., 2022), ihr tatsächlicher Beitrag zur Mensch-KI-Kollaboration in großen Teilen bislang jedoch unzureichend verstanden ist. Entsprechende Erkenntnisse könnten daher sowohl das theoretische Fundament für die effektive Interaktion zwischen Mensch und erklärbarer KI erweitern als auch praktische Implikationen für die Gestaltung von erklärbaren KI-basierten Entscheidungsunterstützungssystemen aufzeigen.

Diese Dissertation adressiert diesen Forschungsbedarf, indem sie Methoden, Mechanismen und Effekte erklärbarer KI-basierter Entscheidungsunterstützung untersucht. Dazu (i) synthetisiert sie die bisherigen Befunde zum Effekt von erklärbarer KI-basierter Entscheidungsunterstützung auf die menschliche Entscheidungsperformanz, (ii) analysiert die zugrunde liegenden Mechanismen, mit welchen Erklärungen diese Performanz potenziell beeinflussen und (iii) ergänzt diese Arbeiten durch die Untersuchung eines erklärbare KI-basierten Entscheidungsunterstützungssystems im Feld. Damit leistet diese Dissertation einerseits theoretische Beiträge zur Interaktion zwischen Mensch und erklärbarer KI und zeigt andererseits praktische Implikationen, etwa zur Gestaltung von erklärbare KI-basierten Entscheidungsunterstützungssystemen, auf. Die Arbeiten stützen sich auf Anwendungen in unterschiedlichen Domänen, darunter die Energiebranche und digitale Hochschullehre. Insgesamt umfasst die Dissertation ein Rahmenpapier sowie neun wissenschaftliche Artikel, die in drei Kapiteln gebündelt sind.

Kapitel 1 schafft zunächst ein grundlegendes Verständnis für den Gesamteffekt von erklärbarer KI-basierter Entscheidungsunterstützung auf die menschliche Entscheidungsperformanz, indem es die Befunde der Literatur in einer Meta-Analyse synthetisiert. Die Ergebnisse bestätigen die zuvor postulierte Heterogenität: Die berichteten Effekte variieren deutlich zwischen den Studien. Zudem zeigt die Analyse, dass der über alle Studien hinweg zusammengefasste zusätzliche Effekt von Erklärungen im Vergleich zu reiner KI-Unterstützung zwar positiv, aber klein ist. Eine Moderationsanalyse zum Risiko des Bias in den berichteten Studienergebnissen zeigt darüber hinaus, dass ein höheres Bias-Risiko systematisch mit größeren berichteten Effekten assoziiert ist. Dies legt nahe, dass die tatsächliche Effektgröße noch kleiner ist, was die Effektivität erklärbarer KI-basierter Entscheidungsunterstützung zusätzlich infrage stellt. Darüber hinaus prüft das Kapitel den Erklärungstyp als moderierenden Faktor, der in der Literatur als wichtig angeführt wird (Herm, 2023) und potenziell Unterschiede im Effekt von erklärbare KI-basierter Entscheidungsunterstützung erklären könnte. Die Ergebnisse zeigen, dass der Erklärungstyp allein die Variabilität der Effekte zwischen den Studien nicht erklären kann. Damit konsolidiert das Kapitel die Ergebnisse der Literatur, bestätigt die Heterogenität der Befunde und motiviert die vertiefte Untersuchung von Mechanismen in domänenspezifischen Kontexten.

Kapitel 2 widmet sich detaillierten, domänenspezifischen Untersuchungen von potenziellen Mechanismen zur Erklärung von Unterschieden in der Effektivität erklärbarer KI-basierter Entscheidungsunterstützung. Das Kapitel betrachtet diese Mechanismen aus zwei Perspektiven: Einer methodenzentrierten und einer menschenzentrierten. Am Beispiel einer Cross-Selling-Vorhersage zu Produkten eines Energieversorgers zeigt das Kapitel, dass die Erklärungen einer erklärbaren KI-Methode für jenen Fall eine zeitliche Beständigkeit aufweisen. Darüber hinaus lassen die Ergebnisse erkennen, dass gängige post-hoc-Methoden in ihrer Erklärungsgüte zwar valide, jedoch begrenzt sind. Die Befunde der menschenzentrierten Perspektive legen nahe, dass Unterschiede in der Verständlichkeit und Präferenz von Visualisierungen Mechanismen darstellen, die Unterschiede in der Entscheidungsperformanz erklären können. Zudem deuten die Ergebnisse darauf hin, dass die Effektivität von Erklärungen auch von ihrer Salienz abhängt, indem diese die Aufmerksamkeit der Nutzenden lenkt. Die Entscheidungsperformanz verbesserte sich durch eine Erklärung marginal statistisch signifikant nur dann, wenn kein starker externer Reiz (hier: numerischer Anker) dominierte. Darüber hinaus zeigen die Befunde, dass sowohl KI-gestützte als auch durch Erklärungen ergänzte Unterstützung den negativen Einfluss des Anker-Bias abschwächen kann. Damit liefert das Kapitel empirische Evidenz für eine Proposition, die auf dem Selective Accessibility Model, einem theoretischen Modell zur Erklärung des Anker-Bias-Phänomens, basiert (vgl. Mussweiler et al., 2000). Zusammengefasst identifiziert Kapitel 2 Mechanismen für die Effektivität erklärbarer KI-basierter Entscheidungsunterstützung und erweitert damit das theoretische Fundament für eine effektive Interaktion zwischen Mensch und erklärbarer KI.

Kapitel 3 erweitert die bislang seltene Evidenz aus Feldexperimenten (vgl. Brasse et al., 2023) und geht über bestehende Forschungsarbeiten hinaus, indem es ein neuartiges erklärbare KI-basiertes Entscheidungsunterstützungssystem instanziiert. Das System basiert auf Erkenntnissen der Theorie des selbstregulierten Lernens sowie auf kontrafaktischen Erklärungen aus der erklärbaren KI. Ziel der Instanziierung ist es, die Heterogenität der Lernenden bei der Feedbackbereitstellung zu berücksichtigen. Mithilfe auf historischen Daten trainierter Modelle generiert das System personalisiertes Feedback und schlägt Lernaktionen zur Verbesserung des prognostizierten Klausurergebnisses vor. Die Evaluation in einem Feldexperiment zeigt, dass das System die Lernergebnisse der Studierenden verbessert: Während der Interventionsphase verbrachten die Teilnehmenden der Treatmentgruppe pro Woche im Durchschnitt 80,7 % mehr Zeit in der digitalen Lernumgebung als die Kontrollgruppe. Die Treatmentgruppe erzielte zudem 13,2 Punkte (von 90 möglichen Punkten) mehr in der Klausur. Darüber hinaus profitieren Lernende – anders als in vielen anderen Studien (z. B. Leung et al., 2023; Mousavi et al., 2025) – unabhängig von Lernercharakteristika, die mit selbstreguliertem Lernen zusammenhängen (Metakognition, Prokrastination). Zusammenfassend zeigt Kapitel 3 einen Weg für den effektiven Einsatz erklärbarer KI-basierter Entscheidungsunterstützung in einem realen Anwendungskontext. Es verbindet dabei die in der Theorie des selbstregulierten Lernens beschriebene Heterogenität von Lernenden mit der Instanziierung adaptiver IS, die diese Unterschiede adressieren. Damit legt Kapitel 3 die Grundlage für eine neue Form von Entscheidungsunterstützungssystemen, die erklärbare KI einsetzt, um personalisiertes Feedback bereitzustellen.

Insgesamt leistet diese Dissertation einen Beitrag zum Verständnis der Methoden, Mechanismen und Effekte von erklärbarer KI-basierter Entscheidungsunterstützung. Durch die Identifikation von Mechanismen erweitert sie das theoretische Fundament für die Interaktion zwischen Mensch und erklärbarer KI. Zugleich bilden die Untersuchungen eine Grundlage für die effektive Gestaltung erklärbarer KI-basierter Entscheidungsunterstützungssysteme, die bei wichtigen Aufgaben im Alltag und im Berufsleben wirksam unterstützen können.