UM WAS GEHT ES?
In der Medikamentenentwicklung werden „Machine Learning“-Modelle genutzt, um Vorhersagen darüber zu treffen, ob bestimmte chemische Verbindungen an pharmazeutische Zielproteine binden. Diese und andere Ansätze der künstlichen Intelligenz haben in der Regel „Black Box“-Charakter, denn die Ergebnisse können nicht ohne zusätzliche Computeranalysen verstanden werden. Deshalb entwickeln wir Methoden, um erklären zu können, wie einzelne Vorhersagen erreicht werden. In dieser Studie haben wir ein “Machine Learning“-Modellsystem entwickelt, mit dem akkurate Vorhersagen von Varianten eines Algorithmus formal erklärt und verglichen werden können. Für konsistent korrekte Vorhersagen eines Wirkstoffmoleküls mit einem mehrfach modifizierten „Machine Learning“-Algorithmus werden die Merkmale des Moleküls identifiziert, die die Vorhersagen bestimmen, und diese Merkmale werden dann verglichen.
WAS IST DAS WICHTIGSTE ERGEBNIS?
In unserer Studie haben ähnliche Modelle (algorithmische Varianten) nahezu identische Vorhersagen produziert. Die Erklärungen dieser Vorhersagen mit einer unserer Methoden waren allerdings oft grundverschieden. Die Modelle kommen also aufgrund unterschiedlicher Annahmen zum gleichen Ergebnis. Dieses erschwert die Interpretation von Modellentscheidungen enorm und schränkt damit den praktischen Nutzen ein.
WELCHEN ANSATZ HABEN DIE FORSCHENDEN GEWÄHLT?
Zur Vorhersage der Aktivität potenzieller Medikamente haben wir Varianten des sogenannten SupportVectorMachine (SVM)-Algorithmus generiert - eine in vielen Bereichen etablierte Methode des „Machine Learning“. Um zu klären, was bei der Vorhersage passiert, haben wir ein Konzept aus der Spieltheorie, die sogenannten Shapley-Werte, angepasst und angewendet. Dieses Konzept quantifiziert für jeden Spieler eines Teams den individuellen Beitrag zum finalen Ergebnis. Unserer Analogie folgend sind „Spieler“ einzelne Atome oder Atomgruppen eines Moleküls, und das „Spiel“ ist die Aktivitätsvorhersage.
WAS WAR DIE GRÖSSTE HERAUSFORDERUNG?
Wir haben für diese Analyse eine neue Methode zur exakten und schnellen Berechnung von Shapley-Werten entwickelt. Mit dieser Methode konnten große Datenmengen analysiert und optimale Vergleichbarkeit von Erklärungen verschiedener Modellvarianten erzielt werden.
GIBT ES EINEN ANWENDUNGSBEZUG?
Unsere Methode zur genauen und effektiven Berechnung von Shapley-Werten für SupportVectorMachin-Modelle ist unabhängig vom Anwendungsgebiet und über die pharmazeutische Forschung hinaus generell einsetzbar.
WIE GEHT ES WEITER?
Ein zentrales Ergebnis unserer Studie ist, dass gleich gute „Machine Learning“-Vorhersagen auf sehr unterschiedlichen Wegen erreicht werden können. Die verschiedenen formalen Erklärungen erschweren die Interpretation der Ergebnisse, zum Beispiel aus einer chemischen Perspektive. Weitere Arbeiten werden sich deshalb auf die Vergleichbarkeit und Interpretierbarkeit algorithmischer Erklärungen konzentrieren, um neue methodische Konzepte zur Rationalisierung von „Machine Learning“-Modellen zu entwickeln.