Erklärbare KI – einfach erklärt

Nachvollziehbarkeit und Überprüfbarkeit von Künstlicher Intelligenz (KI) gewinnt zunehmend an Bedeutung für den verantwortungsvollen Einsatz von KI-Systemen – besonders in sensiblen und risikobehafteten Bereichen wie Medizin oder Justiz. Trotz der beeindruckenden Leistungen moderner KI-Systeme bleiben die internen Arbeitsprozesse von KI-Modellen für Nutzende eine „Black Box“. Das Forschungsfeld der erklärbaren Künstlichen Intelligenz (Explainable AI, kurz XAI) beschäftigt sich mit der Frage, wie sich komplexe und undurchsichtige Systeme erklären lassen. Erklärungen können dazu beitragen, dass Menschen KI-Systemen nicht blind vertrauen, ihnen aber auch nicht pauschal misstrauen. Um dies zu erreichen, sollten Erklärungen verständlich, kontext-gebunden und sinnvoll eingebettet sein. Der Vortrag vermittelt auf anschauliche Weise, warum KI-Modelle Fehler machen, weshalb Transparenz wichtig ist und wie XAI-Ansätze Entscheidungen nachvollziehbarer machen können. Der Beitrag informiert Besucher:Innen über die Grenzen von Künstlicher Intelligenz und stellt Methoden vor, die KI-Entscheidungen nachvollziehbarer machen können. Der Vortrag richtet sich an KI-interessierte Laien und erfordert keine Vorkenntnisse. Ein besonderer Fokus liegt auf psychologischen Faktoren: Wie verstehen Menschen Erklärungen? Wie beeinflussen Kontext und Vorwissen, ob eine Erklärung hilfreich, vertrauenswürdig oder irreführend erscheint? Welche Anpassungen benötigen verschiedene Nutzergruppen? Und was bedeutet kalibriertes Vertrauen im Umgang mit KI? Der Beitrag schafft Bewusstsein dafür, dass KI nur dann verantwortungsvoll eingesetzt werden kann, wenn Menschen ihre Funktionsweise nachvollziehen und Entscheidungen kritisch einordnen können. Informationen zur Vortragenden: Celine Spannagl ist wissenschaftliche Referentin am Bayerischen Forschungsinstitut für Digitale Transformation (bidt) und forscht an einem Projekt zum Thema, wie Erklärbarkeit und Interaktionsmöglichkeiten Vertrauen und Performanz in Mensch-KI-Teams beeinflussen.

Tracks