Erklärbarkeit in der Künstlichen Intelligenz

Die Projektgruppe Comprehensible Artificial Intelligence stellt Nutzen für die Praxis vor.

Der Zeigefinger eines Menschen berührt den Zeigefinger eines Roboters.
  • Forschung
  •  
  • 24.05.2022
  •  
  • Yvette Kunze, Thoralf Dietz
  •  
  • Lesedauer: 4 Minuten

Die Projektgruppe Comprehensible Artificial Intelligence (CAI), eine Kooperation des Fraunhofer IIS und der Universität Bamberg, lud am Montag, 23. Mai 2022, zum Tag der offenen Tür. Staatsministerin Melanie Huml, Ministerin des Landtages, sowie weitere Vertreterinnen und Vertreter aus der Politik, Industrie und Wissenschaft informierten sich vor Ort über die Aktivitäten und Ziele der von Prof. Dr. Ute Schmid geleiteten Projektgruppe.

Um Künstliche Intelligenz (KI) in der Praxis sicher und sinnvoll einzusetzen, muss Maschinelles Lernen (ML) für den Menschen nachvollziehbar ("erklärbar") sein. Diese Erklärbarkeit zu gewährleisten, steht im Fokus der seit Anfang 2020 bestehenden Projektgruppe des Fraunhofer-Instituts für Integrierte Schaltungen IIS an der Universität Bamberg. In Bereichen wie der bildbasierten medizinischen Diagnostik oder industriellen Qualitätskontrolle, die besonders rechen- und datenintensiv, aber auch sensibel und sicherheitskritisch sind, ist es besonders wichtig, dass Entscheidungen von KI-Systemen durch den Menschen nachvollzogen und dadurch Fehler vermieden werden. Hybride Verfahren, in denen wissensbasierte KI-Methoden mit ML kombiniert werden, können gerade in hochspezialisierten Bereichen genutzt werden, um datensparsames Lernen zu ermöglichen und neuronale Netze (Deep Neural Networks) zu trainieren.

Kombination aus wissensbasierter und datengesteuerter KI

Die Projektgruppe um Ute Schmid, Inhaberin der Professur für Angewandte Informatik, insbesondere Kognitive Systeme an der Universität Bamberg, arbeitet an der Entwicklung von Methoden, um systematisch Vorwissen beim Maschinellen Lernen zu nutzen. Zudem werden Ansätze zum interaktiven Maschinellen Lernen entwickelt, die durch gezielte Korrekturen von Systementscheidungen ermöglichen, dass sich gelernte Modelle schrittweise verbessern. Fachexpertinnen und -experten werden in ihrer Entscheidungsfindung durch Erklärungen von Blackbox-Maschinellem Lernen unterstützt, die auf Erkenntnissen aus der Kognitionspsychologie beruhen. Dabei greifen visuelle Hervorhebungen, textliche Erklärungen und hilfreiche Beispiele zur Verdeutlichung der Entscheidung eines Klassifikators ineinander.

Ausbau des Wissens- und Technologietransfers

Forschung in die Praxis zu bringen, ist das zentrale Ziel der Projektgruppe Comprehensible Artificial Intelligence. Dies wird durch das Engagement in vielen Fachverbänden, die Initiierung zahlreicher Forschungsvorhaben und der Akquise sowie Qualifizierung wissenschaftlichen Personals realisiert. Seit vielen Jahren arbeitet Ute Schmid bereits mit verschiedenen Bereichen des Fraunhofer IIS zusammen und ist dort auch als Gruppenleiterin tätig. Die von ihr betreuten Projekte sind weit gestreut: Dazu gehört humanzentrierte KI in der chemischen Industrie, die logistische Prozesse effizienter gestaltet, aber auch die Entwicklung neuer grundlegender Methoden der Interaktion zwischen Mensch und KI mit dem Ziel der Wissensintegration und verbesserter Datenqualität.
 
Weitere Informationen: https://www.iis.fraunhofer.de/de/ff/sse/affective-computing/cai.html

Stimmen zum Tag der offenen Tür der Projektgruppe CAI

Melanie Huml, MdL, Bayerische Staatsministerin für Europaangelegenheiten und Internationales: "Künstliche Intelligenz gilt als Schlüsselstrategie der Zukunft. Deshalb ist die KI auch ein Schwerpunkt unserer Hightech Agenda Bayern, mit der wir dem Freistaat einen Innovationsschub verschaffen. Gerade mit Blick auf praxisorientierte Forschung ist Fraunhofer ein wichtiger Partner. Dass die Gesellschaft dabei auf die Zusammenarbeit mit unserer Uni Bamberg setzt, freut mich als Kuratoriumsvorsitzende besonders. Auch für die zukunftsorientierte Weiterentwicklung unserer stark automobilgeprägten Region sind der Ausbau der Fraunhofer-Forschungsprojekte in Bamberg und die staatlich massiv geförderten Vorhaben wie das Medical Valley Center oder der CleanTech Innovation Park von zentraler Bedeutung."
 
Prof. Dr. Albert Heuberger, Geschäftsführender Institutsleiter des Fraunhofer IIS: "Mit der Projektgruppe Comprehensible Artificial Intelligence (CAI) bringen wir die Forschung für erklärbare KI voran, einem zentralen Zukunftsthema im Bereich der Künstlichen Intelligenz. In Zusammenarbeit mit der Universität Bamberg entwickeln wir Methoden, die die Entscheidungen von KI-Systemen transparent und nachvollziehbar machen. Die gewonnenen Erkenntnisse können in vielen Anwendungsgebieten, u.a. der bildbasierten medizinischen Diagnostik, der Mimik-Analyse oder im Bereich Automotive, zum Einsatz kommen."
 
Prof. Dr. Kai Fischbach, Präsident der Otto-Friedrich-Universität Bamberg: "Mit der Projektgruppe Comprehensible Artificial Intelligence, die organisatorisch direkt dem Fraunhofer IIS angeschlossen und räumlich hier an der Universität untergebracht ist, vergrößern wir unsere bereits seit vielen Jahren bestehende Partnerschaft mit dem Fraunhofer IIS und vertiefen den Schulterschluss zwischen Grundlagenforschung und anwendungsorientierter Forschung. Durch die direkte Vernetzung, gerade auch im Hinblick personeller Verflechtungen, bspw. durch die Betreuung von Masterarbeiten oder Doktorandinnen und Doktoranden durch Prof. Ute Schmid, können so Forschungsergebnisse schnell und zielgerichtet in die Anwendung gebracht werden."
 
Jonas Glüsenkamp, Zweiter Bürgermeister der Stadt Bamberg: "Das Fraunhofer IIS ist mit mittlerweile drei Standorten in Bamberg vertreten: Neben dem Mobile Health Lab und dem Kompetenzzentrum für Geschäftsmodelle in der Digitalen Welt stellt die Projektgruppe Comprehensible AI um Frau Prof. Schmid einen großen Gewinn für die Stadt Bamberg dar. Die KI-Themen der Forschungsgruppe sind eine Bereicherung für zahlreiche andere Aktivitäten in der Stadt Bamberg im Bereich Digitalisierung – sei es im Medical Valley Center Bamberg, bei unseren Aktivitäten im Bereich Smart City oder im Cleantech Innovation Park in Hallstadt."
 
Prof. Dr. Ute Schmid, Leiterin der Projektgruppe Comprehensible Artificial Intelligence: "Die Arbeit am Fraunhofer IIS ist für mich eine große Bereicherung, weil sie mir die Möglichkeit bietet, Grundlagenforschung unserer Gruppe Kognitive Systeme an der Universität Bamberg näher an die Anwendung zu bringen. Der regelmäßige Austausch in der Abteilung Sensory Perception and Analytics und weiteren Gruppen am Fraunhofer IIS gibt immer wieder spannende Impulse für Umsetzungs- und Anwendungsmöglichkeiten für unsere Methoden des hybriden und nachvollziehbaren Maschinellen Lernens."

nach oben