Experten Update: Erklärung erwünscht! Explainable AI: Anforderungen an die Erklärbarkeit von KI-Systemen und mögliche Lösungen

Vielen KI-Methoden liegen sogenannte Black-Box-Modelle zugrunde, bei denen nur schwer nachvollziehbar ist, wie und auf welcher Grundlage ein Algorithmus Entscheidungen trifft. Diese Nachvollziehbarkeit ist aber kein „Nice-to-have“, sondern Voraussetzung dafür, dass KI-Methoden den Sprung in die Anwendung schaffen. Schließlich birgt mangelnde Erklärbarkeit überall dort ein Risiko, wo Systeme kritische, womöglich lebenswichtige Entscheidungen treffen, z.B. in der Gesundheitswirtschaft.

In welchen Branchen ist die Erklärbarkeit von KI eine absolute Notwendigkeit – und steht möglichen Chancen im Weg? Sind erklärbare KI-Anwendungen auch der wichtigste Schlüssel für Vertrauen in KI? Wo steht die Anwendung von “Explainable AI“-Tools in der Wirtschaft?

Diese und weitere Fragen waren Thema der zweiten Ausgabe des Experten Updates, zu der die Begleitforschungen der Technologieprogramme „Smarte Datenwirtschaft" und „Innovationswettbewerb Künstliche Intelligenz" des Bundesministeriums für Wirtschaft und Energie am 28. April 2021. Die Veranstaltung wurde als hybrides Live-Event aus dem Forum Digitale Technologien in Berlin übertragen. Zum Auftakt wurden die Ergebnisse der neuen Studie zum Thema „Explainable AI“ vorgestellt, für die die Begleitforschung des KI-Innovationswettbewerbs Anbieter, Entwickler und Unternehmen befragt und Interviews mit Expertinnen und Experten geführt hat. Anschließend diskutierten Expertinnen und Experten die zentralen Herausforderungen und mögliche Lösungswege im Zusammenhang mit der Erklärbarkeit von KI-Methoden.

Vorstellung der Studienergebnisse:

Dr. Tom Kraus (Begleitforschung KI-Innovationswettbewerb), Mitautor der Studie

Es diskutieren:

Prof. Dr. Axel-Cyrille Ngonga Ngomo (Universität Paderborn), Projekt RAKI

Nina Schaaf (Fraunhofer IPA), Projekt FabOS

Prof. Dr. Ute Schmid (Universität Bamberg/Fraunhofer IIS)

Prof. Dr.-Ing. Leon Urbas (Technische Universität Dresden), Projekt KEEN

Moderation:

Vanessa Cann, Geschäftsführerin KI Bundesverband