KI zwischen Arztpraxis und Klassenzimmer

Im deutschen Gesundheitssystem werden in den nächsten Jahren bis zu 50.000 Medizinerinnen und Mediziner fehlen. KI-Systeme könnten entlasten – etwa bei der automatisierten Analyse von Gewebeproben oder der Unterstützung bei Diagnosen. Parallel eröffnen sich im Bildungsbereich neue Möglichkeiten wie KI-gestützte Systeme zur Analyse von Kinderschriften, die frühzeitig Lernschwierigkeiten erkennen können. Die Herausforderungen liegen jeweils weniger in der technischen Entwicklung als in drei Kernbereichen: dem grundlegenden Verständnis der Prozesse, der Einhaltung rechtlicher Vorgaben und der präzisen Aufbereitung der Trainingsdaten.

Hier setzt der Lehrstuhl für Erklärbares Maschinelles Lernen an der Universität Bamberg an. Im Mittelpunkt steht der Prozess der Entwicklung robuster, zuverlässiger KI-Systeme. Lehrstuhlinhaber Prof. Dr. Christian Ledig war über 10 Jahre im Ausland tätig und zählt inzwischen zu den Top 2 Prozent („Stanford List“) der meistzitierten Wissenschaftlerinnen und Wissenschaftler weltweit. In der Startup-Szene in New York und 
Boston in den USA leitete er Teams, die KI-gestützte Medizinsysteme entwickelten. Diese Systeme sind von der amerikanischen Lebensmittel- und Arznei-mittelbehörde (FDA) reguliert und bereits in hunderten Praxen in Nordamerika im Einsatz. Insgesamt sind 
inzwischen in den USA rund 950 KI-Systeme für den Einsatz in der Medizin zugelassen. 
Die Hürden bei der KI-gestützten Diagnostik kennt der Informatiker also genau. Dazu gehören unter anderem die Frage der technischen Integration in Krankenhäusern mit gewachsener IT-Infrastruktur, die Datenschutzthematik und das zentrale Problem der Datenqualität. Auch die Akzeptanz durch Fachpersonal und Patientinnen und Patienten spielt eine Rolle. Die eigentliche Herausforderung bei der Implementierung von KI in die Praxis liegt daher weniger in der Entwicklung neuer Methoden des maschinellen Lernens oder besonders komplexer neuronaler Netze. Vielmehr müsse laut Christian Ledig zuerst das zugrundeliegende Problem verstanden werden.
Der Ablauf ist beim systematischen Entwicklungsprozess für KI-Anwendungen immer sehr ähnlich. Zu Beginn jedes Projekts muss geklärt werden, welches Problem gelöst werden soll, um einen praktischen Nutzen für den Endnutzer zu schaffen. Danach geht es darum, Daten zu sammeln und sie aufzubereiten. Welche Informationen müssen aus Bilddaten extrahiert werden, um die Pathologie zu unterstützen? Welche Merkmale sollten von einem mit Sensoren ausgestatteten Stift erfasst werden, um Lehrkräfte bei der Diagnostik von Schreibproblemen zu helfen? Zur Aufbereitung der Daten gehört die sogenannte Datenannotation – ein Prozess, bei dem Menschen die Rohdaten mit zusätzlichen Informationen versehen. Sie markieren zum Beispiel in medizinischen Bildern auffällige Bereiche oder kennzeichnen in Handschriftproben einzelne Buchstaben. Diese manuellen Markierungen dienen der KI später als „Lernmaterial“. Erst danach werden KI-Modelle entwickelt, trainiert und getestet. „Es ist wichtig, sich selbst als Teil einer Kette im gesamten Lebenszyklus eines KI-Systems zu begreifen, denn das System ist am Ende nur so gut wie das schwächste Glied“, vermittelt Ledig seinen Studierenden. „Wenn schlechte Daten gesammelt werden, kann der Rest des Systems perfekt sein, aber das KI-System wird dennoch ungenügend sein. Ebenso führen gut gesammelte Daten, die jedoch schlecht von Menschen annotiert wurden, zu einem unzureichenden System. Und wenn die Evaluierung eines Systems mangelhaft ist, gibt es keine Gewissheit, dass das System so funktioniert, wie es sollte“, so Ledig.

Während KI zur Unterstützung bei der Krebsdiagnostik häufiger zum Einsatz kommt, wird sie für Entzündungen bislang weniger genutzt. Allerdings eignet sich die Unterstützung durch KI besonders bei sehr häufig auftretenden Erkrankungen, da sie die Pathologie deutlich entlasten kann.
Daher haben Christian Ledig und das Institut für Pathologie am Klinikum in Nürnberg die medizinische Diagnostik von Magen-Darm-Biopsien und insbesondere die Entzündungen der Magenschleimhaut (Gastritis) in den Fokus genommen. Ein zentrales Verfahren in der Pathologie ist die Untersuchung von Magengewebsproben, wie sie bei Magenspiegelungen entnommen werden. „Dieser Eingriff wird in Deutschland jährlich rund 3 Millionen Mal durchgeführt“, so Dr. Volker Mordstein, leitender Oberarzt des Instituts. „Wir analysieren an einem Tag schon mal 100 Proben aus dem Magen-Darmtrakt am Stück.“ Jede dieser Proben muss auf zahlreiche Kriterien hin untersucht werden: Zum Beispiel welcher Gewebetyp vorliegt – allein im Magen gibt es mehrere spezialisierte Schleimhautabschnitte, je nach Lage im Magen, ob näher an der Speiseröhre oder weiter in Richtung des Magenausgangs. Diese Gewebetypen müssen erkannt und klassifiziert werden. Außerdem wird untersucht, ob eine Entzündung in der Gewebeprobe sichtbar ist und auf welche Ursache das Entzündungsmuster deutet. Dies ist besonders wichtig, da statistisch etwa die Hälfte der erwachsenen Bevölkerung in Deutschland mit dem Helicobacter pylori-Bakterium infiziert ist, was häufig unbemerkt bleibt und zu Entzündungen der Magenschleimhaut führen und das Krebsrisiko erhöhen kann. Nicht zuletzt dient die Entnahme von Magenbiopsien der Tumordiagnostik. Die Aufgabe der Pathologie besteht unter anderem darin, gutartige und bösartige Magentumore sowie Tumorbeteiligungen aus anderen Körperregionen zu unterscheiden, um eine gezielte Therapie zu ermöglichen.
Abschlussarbeiten des Bamberger Lehrstuhls setzten nun bei der Datensammlung an. Das Archiv aus Gewebeproben musste erst einmal hochauflösend gescannt werden – hier starten bereits die Herausforderungen bei der Krankenhausausstattung, denn dafür bedarf es besonderer Scanner – und dort annotiert werden. Erst datenschutzkonform in vollständig anonymisierter Form, also ohne jegliche Patientendaten, dürfen die Bilder das Klinikum verlassen, um ein KI-Modell zur Bildanalyse zu trainieren. „Eigentlich ist es immer gut, wenn man sich erstmal überlegt, wie würde der Mensch das machen, welche Charakteristiken bestimmt der Mensch für ein medizinisches Bild“, so Ledig. „Danach bildet man diesen menschlichen Bewertungsprozess durch die Maschine nach und evaluiert die KI-Ergebnisse wieder durch den Menschen.“
Wenn die Ergebnisse gut sind, könnte man ab diesem Punkt über die Anwendung reden: Die KI dient meistens als eine Art „zweite Meinung“. In der Regel bewertet die Ärztin oder der Arzt das Bild zunächst ohne KI-Unterstützung und schaltet dann die KI-Annotation hinzu. „Bisherige KI-Ansätze waren darauf ausgerichtet, etwas ganz Bestimmtes in etwas ganz bestimmtem Anderen zu erkennen, also beispielsweise eine Brustkrebszelle im Lymphknoten“, so Pathologin Dr. med. Bettina Braunecker. Eine andere Krebszelle wird dagegen nicht erkannt, sofern die KI nicht genau darauf trainiert ist. „Mit der Uni Bamberg arbeiten wir nun daran, dass die KI zukünftig erkennt, was normale Zellen sind. Abweichungen davon muss sie markieren.“ Das wäre auch das Vorgehen des Menschen, zunächst normal von anormal zu unterscheiden, ist aber für einen KI-basierten Algorithmus eine sehr komplexe Sache. „Für die Diagnostik hilft es uns mehr, dass die KI Abweichungen zur weiteren Analyse markiert, als dass sie lediglich erkennt, dass eine bestimmte Abweichung nicht auftritt.“ Ob das dann harmlose Zellveränderungen, Krebs oder Entzündungen sind, müsste danach weiter untersucht werden – ob mit KI oder durch den Menschen.
Eine KI-Annotation kann also helfen, nicht erkannte Auffälligkeiten zu identifizieren. „Die KI kann Anomalien aufzeigen, die das menschliche Auge möglicherweise übersehen hat“, erklärt Christian Ledig. Eine gut trainierte KI mache meist weniger Fehler als ein fitter, wacher und kompetenter Mensch. „Bei der Nutzung von KI in der Medizin ist deshalb nicht nur die Frage nach der Genauigkeit der KI-Systeme wichtig, also ob sie Fehler machen. Selbst wenn die Genauigkeit von Menschen und KI vergleichbar ist, ist ein großer Vorteil der KI, dass sie konsistent und unabhängig vom Krankenhaus oder der Person, die sie gerade einsetzt, gleichbleibend genau ist. Das bedeutet, dass wir uns eine objektivere, konstantere Bewertung erwarten können, auch bei Routineaufgaben, bei denen die Fehlerrate bei Menschen im Laufe der Zeit oder in einer stressigen Lebensphase steigen kann.“

Diagnostik muss sich aber gar nicht auf den klassischen medizinischen Bereich beschränken. Seit Kurzem kooperiert der Lehrstuhl mit STABILO und dem Schreibmotorik Institut, 2012 gegründet und Europas führendes Forschungsinstitut zum Thema Handschreiben und Schreibmotorik. Gerade angesichts der zunehmenden Leistungsabfälle bei Schülerinnen und Schülern kann die frühzeitige KI-gestützte Diagnostik von Lernproblemen Schulen unterstützen, die aufgrund von Personalengpässen nicht immer den individuellen Förderbedarf abdecken können.
Ein von STABILO unter der Leitung von Dr. Jens Barth entwickelter Stift erfasst das Schriftbild der Kinder digital und analysiert die Schreibbewegungen in Echtzeit. Der Stift misst verschiedene Parameter wie Druck, Geschwindigkeit und Neigung und liefert somit Daten, die für die Diagnose von motorischen oder kognitiven Schreibproblemen herangezogen werden können. Nach einem kurzen Schreibtest auf ganz normalem Papier erstellt die zugehörige App ein individuelles Kompetenzprofil, das automatisch passende Arbeits- und Übungsblätter empfiehlt.
„Zwei Abschlussarbeiten des Lehrstuhls für Erklärbares Maschinelles Lernen legen nun den Grundstein, um weitere Funktionen zu entwickeln“, so PD Dr. Tali Hoffmann, Geschäftsführerin des Schreibmotorik Instituts. Insgesamt geht es um die Leserlichkeit der Handschriften. Auch hier war die Annotation der gesammelten Daten, also die manuelle Kennzeichnung und Kategorisierung bestimmter Merkmale in den Daten durch Menschen, wieder entscheidend. Ein Beispiel hierfür ist die Unterscheidung von Buchstaben, die sehr ähnlich aussehen können, wie etwa „n“ und „h“. Wenn ein Kind den Strich des Buchstabens h nicht lang genug zeichnet, wird es schwierig, diesen vom Buchstaben „n“ zu unterscheiden. „Aber so einfach ist es nicht“, so Hoffmann. „Es gibt Handschriften, die wir Menschen als leserlich empfinden, obwohl viele einzelne Details eigentlich unleserlich sind – und umgekehrt. Wir sind sehr gespannt, wie die KI ein solches Zusammenspiel zukünftig erlernt und auf neuen Daten erkennt.“ 
Außerdem haben die Abschlussarbeiten auch belegt, wie leicht das menschliche Urteilsvermögen von der Situation abhängt: „Wir hatten Testreihen, bei denen dieselben Menschen genau dieselben Sätze beurteilen sollten. Je nachdem wie leserlich die Proben davor waren, veränderte sich auch die aktuelle Beurteilung der Leserlichkeit.“ Die KI liefert stets reproduzierbare Ergebnisse. Unabhängig davon, wo und von welcher Lehrkraft der Stift verwendet wird, liefert die KI eine gleichbleibend hohe Qualität der Analyse, was besonders in Zeiten von Fernunterricht oder in Regionen mit begrenztem Zugang zu spezialisierten Fachkräften von großem Nutzen ist.
Diese Kooperation verbindet wissenschaftliche Erkenntnisse mit der pädagogischen Praxis und ermöglicht es, die neuesten Forschungsergebnisse direkt in den Unterricht zu integrieren. Das Schreibmotorik Institut sorgt für den Transfer von Forschungsergebnissen in den Bildungsbereich und berät Akteure im Bildungswesen. Es bietet praxisorientierte Seminare an, entwickelt Lehr- und Lernmaterialien und erforscht Lernprozesse zur Handschriftentwicklung in verschiedenen Bildungsphasen – vom Kindergarten bis ins Berufsleben.