gms | German Medical Science

Dieser Artikel bezieht sich auf Ansätze, die im Rahmen von [1] und damit in Zusammenhang stehenden Vorarbeiten entstanden sind. Obgleich diese in einem sehr unterschiedlichen Forschungsfeld entstanden sind, konnten einige der zentralen daraus resultierenden Ergebnisse in die Medizinische Informatik zur Nutzung im Bereich der entscheidungsunterstützenden Systeme transferiert werden.

Zu den zwei Hauptbeiträgen der Vorarbeiten gehören in diesem Zusammenhang:

• Die Entwicklung von Verfahren zur Extraktion von menschenlesbarem Wissen aus lernenden Systemen, die eigenständig im Kontext von Spielen agieren.
• Die Implementierung der wichtigsten dieser Verfahren in der INTEKRATOR Toolbox [2], mit deren Hilfe die Verfahren auch in anderen Bereichen (wie z.B. in der Medizin) genutzt werden können: Mithilfe der INTEKRATOR Toolbox ist es möglich, explizites und für Menschen zugängliches Wissen aus medizinischen und anderen Daten zu lernen.

Im vorliegenden Artikel wird auf den Transfer der Verfahren eingegangen, die im Zuge der vorangegangenen Arbeiten im Kontext von Spielen entwickelt wurden. Es wird im Folgenden beschrieben, wie die entwickelten Verfahren in der Medizinischen Informatik im Bereich entscheidungsunterstützender Systeme Anwendung finden können und damit gleichzeitig auch ein Beispiel für das Zusammenspiel unterschiedlicher Forschungsfelder gegeben. Zu den Hauptbeiträgen des vorliegenden Artikels gehören:

• Die Erläuterung der Ursprünge von einigen der INTEKRATOR Toolbox [2] zu Grunde liegenden Verfahren und deren Zusammenhang mit dem Gebiet der Künstlichen Intelligenz in Spielen
• Die Einordnung, welche Ansätze und Verfahren aus den Vorarbeiten Potential für die Medizinische Informatik im Zusammenhang mit entscheidungsunterstützenden Systemen aufweisen

Darüber hinaus werden einige wesentliche Aspekte der Benutzungsschnittstelle der INTEKRATOR Toolbox überblicksartig zusammengefasst (eine ausführlichere Fassung findet sich in [1] und [2]).

Welche Zusammenhänge lassen sich zwischen zwei auf den ersten Blick so unterschiedlichen Forschungsfeldern wie der Künstlichen Intelligenz in Spielen und der Medizinischen Informatik herstellen?

In [1] wurden Verfahren zur Extraktion von explizitem Wissen aus lernenden Agenten (d.h. eigenständig agierenden Systemen) im Kontext von Spielen entwickelt (z.B. [3], [4]). Eines der Ziele besteht dabei darin, für Menschen nachvollziehbar zu machen, was ein solches lernendes System im Rahmen eines Spiels gelernt hat (ähnlich wie vereinfacht in Abbildung 1 [Abb. 1] dargestellt). Aus den ursprünglich für Agenten in Spielen entwickelten Ansätzen ist die INTEKRATOR Toolbox [2] entstanden, ein System, mit dessen Hilfe Wissen auch aus medizinischen Daten expliziert und Menschen zugänglich gemacht werden kann. Das resultierende System verbindet Techniken des maschinellen Lernens und der Wissensrepräsentation (einem Teilgebiet der Künstlichen Intelligenz, KI) und dient nicht nur als Erklärungswerkzeug, sondern kann auch genutzt werden, um automatisiert Expertensysteme aus Daten zu erzeugen (siehe [5]). An ein so erzeugtes System lassen sich dann Anfragen stellen, um Schlussfolgerungen zu erhalten (beispielsweise zur Empfehlung von Therapien bei gegebenen Patienteneigenschaften). Dabei können zusätzlich Erklärungen geliefert werden, wie diese Schlussfolgerungen zustande kommen.

Selbständig lernende Systeme haben häufig einen Blackbox-artigen Charakter: Hat ein System ein bestimmtes Verhalten gelernt, ist es oft schwierig, das gelernte Wissen in kompakter, menschenlesbarer Form zu explizieren. In kritischen Anwendungen (wie etwa in der Medizin) kann diese Problematik dazu führen, dass die mangelnde Vertrauenswürdigkeit solcher Systeme ihrem Einsatz im Wege steht. Methoden der Wissensrepräsentation [6] (ein traditionelles Teilgebiet der KI) können hier Abhilfe schaffen, da bei wissensbasierten Systemen regelhaftes Wissen zumeist in expliziter Form vorliegt und verarbeitet wird: So können beispielsweise einzelne oder mehrere Regeln identifiziert werden, auf Basis derer eine Entscheidung getroffen wird (etwa im Gegensatz zu neuronalen Netzen, bei denen das Wissen implizit in zahlreichen numerischen Gewichten enthalten ist, die nur schwer Rückschlüsse auf deren inhaltliche Bedeutung zulassen, und somit substanzielle Erklärungen für eine Entscheidung häufig schwer oder gar nicht geliefert werden können). Die Funktionsweise unterscheidet sich somit auch grundsätzlich von Large Language Models (LLMs) und damit verbundenen Chat-Anwendungen: Insbesondere existiert hier auch kein Dialogsystem und Erklärungen zu Inferenzen werden auf Basis von nachvollziehbaren Regeln mit annotierten (bedingten) Wahrscheinlichkeiten geliefert.

Während etwa in [7] überblicksartig verschiedene transparenzbezogene Ansätze im Kontext von maschinellen Lernverfahren vorgestellt werden (auch im Hinblick auf medizinische Nutzung, vgl. [7], S. 140), sind in [1] Verfahren zur automatisierten Gewinnung von verständlichem expliziten Wissen aus lernenden Agenten in Spielen entstanden: Ein solches selbständig handelndes System kann beispielsweise mit Methoden des maschinellen Lernens ein bestimmtes Verhalten erlernen, um ein Spiel spielen und gewinnen zu können. Danach lässt sich die Frage stellen, wie sich das gelernte Wissen am besten in Form von Regeln explizieren lässt, sodass ein Mensch nachvollziehen kann, was gelernt wurde. Die INTEKRATOR Toolbox [2] ermöglicht es, einige der in diesem Rahmen entstandenen Verfahren auf einfache Art und Weise auch auf medizinische Datensätze anzuwenden [5].

Im Folgenden werden die zentralen Konzepte und Verfahren kurz beleuchtet (Abschnitt 2.1), bevor näher auf die INTEKRATOR Toolbox eingegangen wird (Abschnitt 2.2).

Auch wenn die Darstellung von explizitem Wissen durch Regeln grundsätzlich ein gewisses Maß an Transparenz gewährleistet (da im Prinzip jede einzelne Regel nachvollzogen werden kann), stößt auch dieser Ansatz an seine Grenzen, wenn die Regelmenge (wie oft in realen Anwendungen) eine gewisse Größe übersteigt. Eine Möglichkeit, das Wissen kompakter (und damit grundsätzlich für den Menschen besser erfassbar) darzustellen, ist die Darstellung in Form von (Default-)Regeln mit Ausnahmen (vgl. etwa [8]): „Normalerweise gilt …, es sei denn …“. Die Darstellung von Wissen in Form von Regeln mit Ausnahmen findet sich bereits in frühen Arbeiten, wie z.B. im Rahmen der von Reiter entworfenen Default-Logik [8] oder auch in moderneren Ansätzen wie der Antwortmengenprogrammierung [9].

Der im Rahmen von [1] entstandene Ansatz der Wissensrepräsentation führt das Konzept der Regeln mit Ausnahmen über mehrere Abstraktionsebenen fort. Das resultierende Wissen ist dann in Form von Regeln mit Ausnahmen (und Ausnahmen von Ausnahmen, etc.) organisiert. Abbildung 1 [Abb. 1] zeigt ein einfaches Beispiel eines lernenden Agenten zusammen mit dem extrahierten Wissen, welches das gelernte Verhalten des Agenten repräsentiert.

Zur automatisierten Gewinnung der entwickelten Wissensdarstellungen aus Sensordaten (wie im rechten Teil von Abbildung 1 [Abb. 1] ) wurden in [1] zwei unterschiedliche Algorithmen vorgestellt. Zudem wurde ein Verfahren entwickelt, mit dessen Hilfe solche Darstellungen auch aus numerischen Daten gewonnen werden können. Einige dieser Verfahren wurden in der INTEKRATOR Toolbox implementiert und sind somit auch auf medizinische sowie andere Daten anwendbar.

Das in der INTEKRATOR Toolbox verfügbare Verfahren zum Lernen einer Wissensdarstellung wie im rechten Teil von Abbildung 1 [Abb. 1] geht von einem Datensatz mit n Income- und einer Outcome-Spalte aus. Der Lernalgorithmus versucht dann mit möglichst wenigen Regeln und möglichst wenigen Ausnahmen die unterschiedlichen Ausprägungen in der Outcome-Spalte mit den in der Income-Spalte auftretenden Ausprägungen zu erklären. Bei deterministischen Daten (d.h. Daten, bei denen ein und dieselbe Konstellation von Income-Ausprägungen auch immer nur zu ein und derselben Outcome-Ausprägung führt) ist der Algorithmus vollständig – ein entsprechender Vollständigkeitsbeweis befindet sich in [1].

Für das Lernen von Wissen aus numerischen Daten, wird zunächst spaltenweise ein Clustering-Verfahren als unüberwachtes maschinelles Lernverfahren auf die numerischen Daten angewendet. Die resultierenden Cluster werden dann als Ausprägungen der einzelnen Spalten aufgefasst. Diese Ausprägungen können dann vom zuvor beschriebenen Lernalgorithmus in Prämissen und Konklusionen gelernter Regeln verwendet werden. Bei dem Clustering-Verfahren handelt es sich um ein k-means-Clustering (z.B. [10]). Dieses kann mit einer vom Anwender vorgegebenen maximalen Anzahl k an Clustern gestartet werden (sofern eine Unterteilung a priori gewünscht bzw. bekannt ist); alternativ kann die Anzahl der Cluster auch automatisiert aus den Daten ermittelt werden. Der entsprechende Algorithmus beginnt in jedem Fall mit k=2 Clustern und erhöht k dann sukzessive solange, bis leere Cluster entstehen – das letzte Clustering, welches noch keine leeren Cluster enthält, wird dann für die Erzeugung der Ausprägungen genutzt. Die initialen Zentroiden der Cluster werden dabei äquidistant über den Wertebereich einer entsprechenden Datenspalte verteilt. Die INTEKRATOR Toolbox bietet zu den aus Clustern gewonnenen Ausprägungen eine Option, mittels derer sich Informationen zu den Clustern (finale Zentroiden, Anzahl der ermittelten Cluster, prozentuale Abdeckung der Daten einzelner Cluster, etc.) an den Ausprägungen annotieren lassen. (Eine detaillierte Beschreibung der Lernverfahren findet sich in [1].)

Die INTEKRATOR Toolbox [2] soll es ermöglichen, die in Abschnitt 2.1 beschriebenen Verfahren unkompliziert und flexibel einsetzen zu können. Dazu wurden die zentralen entstandenen Verfahren in einer leichtgewichtigen Java-basierten Open-Source-Software implementiert, die sowohl als Konsolenanwendung als auch als Programmierbibliothek eingesetzt werden kann. Damit eignet sich die Software beispielsweise auch dazu, die Verfahren in Webanwendungen einzusetzen. In [5] wurde die INTEKRATOR Toolbox zum automatisierten Lernen von Wissen für medizinische Experten-Systemen vorgeschlagen: Anstelle der manuellen Modellierung von Expertenwissen ist es damit möglich, explizites menschenlesbares Wissen direkt aus medizinischen Daten zu lernen. Eine so gelernte Wissensbasis kann dann nicht nur inspiziert werden, um Zusammenhänge in den Daten zu verstehen, sondern es lassen sich mittels INTEKRATOR auch Anfragen an das gelernte Wissen stellen. Damit lassen sich automatische Schlussfolgerungen einschließlich zugehöriger Erklärungen erhalten. Abbildung 2 [Abb. 2] und Abbildung 3 [Abb. 3] verdeutlichen dies.

Die Funktionalität der INTEKRATOR Toolbox [2] ist sowohl als JAVA-Bibliothek als auch als Konsolenanwendung zugänglich. Über letzteren Weg kann sie auch von externen Programmen aus aufgerufen werden (wobei die Ausgabe vom aufrufenden Programm weiterverarbeitet werden kann). Damit ist es möglich, Wissensbasen aus Daten zu lernen, Inferenzanfragen an die so gelernten Wissensbasen zu stellen oder diese auch (bedingt) nachträglich zu revidieren. Darüber hinaus können gelernte (sowie auch manuell modellierte) Wissensbasen gegen einen Datensatz (oder eine Teilmenge davon) evaluiert werden, um die Qualität einer Wissensbasis beurteilen zu können. Im Folgenden wird auf die Benutzungsschnittstelle für die grundsätzlichen Funktionalitäten eingegangen. Eine detailliertere Beschreibung (insbesondere der Syntax für die Nutzung als Konsolenanwendung) findet sich in [1] (Anhang A) sowie in [2]; weitere Details können auch der Dokumentation des Quelltextes entnommen werden (JAVADOC).

Um eine Wissensbasis aus einem Datensatz zu lernen, muss dieser dem Lernmodul als Eingabe in Form von n Income- und einer Outcome-Spalte geliefert werden. Es wird dann eine Wissensbasis mit höchstens n+1 Ebenen zurückgegeben. Für das Lernmodul der INTEKRATOR Toolbox existieren dabei im Wesentlichen folgende Optionen:

• Kompaktheit der gelernten Wissensbasis: Es kann festgelegt werden, ob nur für den Eingabedatensatz relevante Regeln repräsentiert werden sollen, oder ob auf jeden Fall eine Regel auf der allgemeinsten Ebene bzw. alle aus den Daten gelernten Regeln geliefert werden sollen (auch wenn diese zur Beantwortung von Inferenzanfragen aus dem Datensatz, aus dem sie gelernt wurden, nicht benötigt werden).
• Diskretisierung: Das Abbilden von numerischen Daten auf für die Regelbildung verwendbare Symbole kann vollständig automatisiert durch Clustering oder aber auch durch die manuelle Vorgabe der Anzahl und Namen von Clustern innerhalb einer bestimmten Spalte eines Datensatzes erfolgen.
• Vorselektion: Bei höher-dimensionalen Datensätzen kann eine Vorselektion für die Regelbildung potentiell relevanter Income-Spalten erfolgen, um die Berechnungszeit zu reduzieren. Die Vorselektion kann automatisiert oder halb-automatisiert (durch Vorgabe einer gewünschten Anzahl Spalten) erfolgen.
• Sampling: Es kann festgelegt werden, ob die Wissensbasis nur aus einer Stichprobe des Eingabedatensatzes gelernt werden soll, was ebenfalls zur Verringerung der Berechnungszeit beitragen kann.

Gelernte Wissensbasen lassen sich nachträglich mittels des Revisionsmoduls mit neuen Regeln revidieren. Dabei ist zu beachten, dass potentiell ungewollte Nebeneffekte auf bereits enthaltenes Wissen nur dann umgangen werden können, wenn die Revision mit einer Regel mit Prämissenlänge n auf der untersten Ebene erfolgt (bei n Income-Spalten also auf Ebene n+1). (Dies ist der Fall, da sich die neue Regel dann nur auf die spezielle Konstellation der n Merkmalsausprägungen bezieht.)

An eine gelernte (oder auch manuell modellierte) Wissensbasis lassen sich Inferenzanfragen stellen, indem eine Eingabe bestehend aus einer oder mehreren unterschiedlichen Merkmalsausprägungen an das Inferenzmodul geliefert wird. Das Inferenzmodul gibt daraufhin die entsprechende Ergebnisausprägung mit einer annotierten bedingten Wahrscheinlichkeit zurück. Optional ist es möglich, sich zusätzlich die Regel(n) ausgeben zu lassen, auf Basis derer die Entscheidung für das zurückgegebene Inferenzergebnis getroffen wurde.

Darüber hinaus lässt sich eine Wissensbasis gegen einen Datensatz evaluieren, um die Qualität der Wissensbasis beurteilen zu können. Das Check-Modul der INTEKRATOR Toolbox prüft dann für eine gegebene Wissensbasis und einen Datensatz, für welchen Anteil der im Datensatz enthaltenen Datenzeilen der korrekte Outcome aus den Income-Merkmalen geschlussfolgert werden kann. Auf diese Weise kann auch eine aus einem Trainingsdatensatz gelernte Wissensbasis gegen einen Testdatensatz evaluiert werden (etwa durch entsprechendes vorheriges Teilen des Datensatzes).

In [1] sind Verfahren zur Gewinnung von explizitem verständlichen Wissen aus lernenden Systemen sowie deren Nutzung innerhalb der lernenden Systeme selbst entstanden. Die relevantesten Ergebnisse werden im Folgenden kurz hinsichtlich ihrer Anwendbarkeit in medizinischen Anwendungen – insbesondere in entscheidungsunterstützenden Systemen – beleuchtet.

Zur Repräsentation des gewonnenen Wissens wurde ein Wissensrepräsentationsformalismus beschrieben, welcher insbesondere auf lernende Agenten zugeschnitten und dabei verständlich ist (hinsichtlich der Verständlichkeit, siehe auch die gemeinsame Arbeit [11]). Unterschiedliche Lernalgorithmen ermöglichen die automatisierte Gewinnung solcher Repräsentationen aus lernenden Systemen. Durch das Auffassen von Spalten eines Datensatzes als sensorische Daten eines Agenten, lässt sich der Ansatz und seine Verständlichkeit auch für medizinische Datensätze nutzbar machen. Durch den in [1] entwickelten Inferenzalgorithmus lässt sich das so gelernte explizite Wissen auch ähnlich wie ein Expertensystem betrachten und anfragen.

Auf Basis des aus Daten gewonnenen Wissens wurde im Rahmen einer gemeinsamen Arbeit (siehe [12]) zudem ein Maß für die subjektiv empfundene Schwierigkeit von Computerspielen entwickelt. Diese folgt dem Grundgedanken, dass Spiele, zu deren Bewältigung Wissen mit zahlreichen Ausnahmen und Ausnahmen von Ausnahmen, etc. nötig ist, als schwieriger empfunden werden als solche, für die ein weniger ausnahmebehaftetes Wissen hinreichend ist. Obgleich dieser Ansatz grundsätzlich auch auf aus medizinischen Daten gelerntes Wissen angewendet werden kann, scheint eine sinnvolle Anwendung in diesem Bereich weniger offensichtlich.

Auch die entstandenen Agentenmodelle, die die Ausnutzung von gelerntem expliziten Wissen während eines (bestärkenden) Lernprozesses zulassen, scheinen zunächst keinen offensichtlichen Nutzen für medizin-informatische Anwendungen erkennen zu lassen. Allerdings ist hier das Agentenmodell zum Lernen von sogenannten Vorwärtsmodellen hervorzuheben (siehe auch die gemeinsamen Arbeiten [3], [13]), d.h. solche Modelle, die es ermöglichen, von dem Zustand eines Agenten und einer Aktion auf einen Folgezustand zu schließen. Hier wären beispielsweise Anwendungen für medizinische Datensätze denkbar, bei denen der Zustand eines Patienten oder einer Erkrankung nach einer oder mehrerer subsequenter Behandlungen (Aktionen) von Interesse ist.

Als weiteres Ergebnis lässt sich hier abschließend die INTEKRATOR Toolbox [2] anführen. Diese ermöglicht es, die zentralen Ansätze und Verfahren in einfacher Art und Weise auf medizinische (sowie auch andere) Datensätze anzuwenden. In [14] wird sie etwa für weitere Forschung im Zusammenhang mit Empfehlungen zur Entscheidungsunterstützung bei Krebstherapien eingesetzt.

Der Transfer von Verfahren aus Forschungsbereichen wie der Künstlichen Intelligenz kann es ermöglichen, Potentiale für die Medizinische Informatik (z.B. für entscheidungsunterstützende Systeme) zu erschließen. Aus den hier betrachteten Vorarbeiten ist dabei ein System entstanden, welches potentiell auch praktischen Mehrwert für den Einsatz in medizinischen Anwendungen hat. Im Gegensatz zu Ansätzen auf Basis von neuronalen Netzen und Deep Learning, ermöglicht die INTEKRATOR Toolbox das Gelernte zu explizieren und Erklärungen für Schlussfolgerungen zu liefern. Für den Einsatz von KI-Verfahren in der Medizin kann dies ein Vorteil sein, der das Vertrauen in solche KI-Verfahren und das Zusammenspiel zwischen Mensch und Maschine verbessern kann.

Als Limitation des aus den betrachteten Vorarbeiten entstandenen Systems lässt sich hier insbesondere anführen, dass eine Evaluation an Realdaten noch aussteht. Als erster Ansatz dazu kann [14] (eine Anwendung auf semi-synthetische medizinische Daten) verstanden werden.

Auch darüber hinaus bietet das entstandene System noch viel Raum für weitere Forschung, Verbesserungen und Weiterentwicklungen: So werden aktuell Datenschutzaspekte näher betrachtet (welche etwa auch für einige sich zum Teil noch in der Entwicklung befindenden Richtlinien zur KI-Regulation relevant sein könnten) und zukünftig sollen weitere Verbesserungen und Erweiterungen vorgenommen werden.

Der Autor erklärt, dass er keine Interessenkonflikte in Zusammenhang mit diesem Artikel hat.

Teile weiterer Forschung im Kontext dieser Arbeit werden durch die Carl-Zeiss-Stiftung finanziert: P2021-02-014 (TOPML-Projekt).