"Gegenüber der künstlichen Intelligenz gibt es viel mehr Ignoranz als Skepsis"

Wann und wie haben die Universitätsspitäler Genf künstliche Intelligenz zum ersten Mal eingesetzt?

Christian Lovis: Die künstliche Intelligenz ist ein sehr breites Gebiet mit einer langen Geschichte. An den Genfer Universitätsspitälern - Hôpitaux Universitaires de Genève, kurz HUG, begann es vor wahrscheinlich mehr als 30 Jahren unter der Leitung von Jean-Raoul Scherrer. Ich selbst war schon 1995 auf dem Gebiet mit einem Projekt zur Verarbeitung natürlicher Sprache beteiligt. Bereits 2004 arbeiteten wir mit Ansätzen, die auf Support-Vector-Maschinen basieren, etwa zur Erkennung nosokomialer Infektionen - auch Krankenhausinfektionen genannt.

Seit Kurzen setzen Sie am HUB künstliche Intelligenz in der Krebsforschung ein. Was erforschen Sie konkret?

Es laufen mehrere Projekte mit externen Lösungsanbietern mit unserer IT, der onkologischen Abteilung und der diagnostischen Abteilung. Da sich meine Abteilung stark auf angewandte Forschung und Entwicklung konzentriert, arbeitet das für KI zuständige Team derzeit intensiv an der Entwicklung von Werkzeugen zur automatischen Zusammenfassung der komplexen Krankengeschichte von Patienten. Dies erfordert hybride Ansätze, die multimodalen, heterogenen Datenquellen verarbeiten können. Dazu gehören etwa Laborergebnisse, Arzt- und Pflegeberichte, sowohl strukturierte als auch unstrukturierte Daten.

In welchen anderen medizinischen Bereichen setzen Sie derzeit die KI-Technologie ein?

Mein Team beteiligt sich an mehreren solchen Forschungsprojekten, die fast alle Bereiche betreffen. So etwa ein Projekt zur automatischen Erkennung unerwünschter Arzneimittelwirkungen (UAW).

Und wie nutzen Sie hierbei KI konkret?

Wir erforschen zwei Ansätze. Zum einen wird versucht, die unerwünschten Wirkungen zu verhindern. Dabei schaut man sich etwa die Entwicklung einiger spezifischer Laborwerte an, die routinemässig gemessen werden - etwa zur Nierenfunktion - und die Veränderungen aufweisen, die zwar im normalen Bereich bleiben, aber darauf hindeuten, dass etwas passieren könnte. Da sich diese Veränderungen eben nur im Normbereich bewegen, werden sie im Rahmen regulärer Untersuchungen nur selten beachtet. Wir erwarten jedoch, dass wir aus diesen Daten signifikante Erkenntnisse gewinnen können, wenn wir sie genau und bei jedem einzelnen Patienten analysieren.

Und was ist der zweite Ansatz?

Hier geht es darum, die UAW zu erfassen. Treten unerwünschte Wirkungen auf, sollten diese zwar gemeldet werden, was jedoch viel zu selten passiert. Deshalb nutzen wir einen grossen Datensatz gemeldeter UAW und versuchen, mit maschinellen Lernverfahren und zumeist natürlicher Sprachverarbeitung Systeme aufzubauen, die zukünftig neue Fälle unerwünschter Medikamentenwirkungen autonom identifizieren könnten.

Werden diese Ansätze bereits praktisch angewendet?

Es gibt schon eine Reihe von Werkzeugen im Zusammenhang mit UAW, die produktiv eingesetzt werden. Diese nutzen zum Teil einfache regelbasierte Techniken. So ist es etwa nicht so kompliziert, ein Warnsystem für Patienten mit Medikamenten zur Blutgerinnungshemmung zu entwickeln, das bei einem zu hohen Grad der Blutverdünnung anschlägt. Die Projekte, an denen mein Team arbeitet, befinden sich noch in der Entwicklungsphase, da es unsere Mission ist, neue Tools zur Unterstützung des HUG zu entwerfen.

Wie hat die coronapandemie die Arbeit Ihres Teams beeinflusst?

Mein Team wurde mobilisiert, um prädiktive Instrumente zur Unterstützung unseres Managements zu entwickeln. Es war eine unglaubliche Zeit, vor allem für ein Team von Wissenschaftlern, die es nicht gewohnt sind, fast rund um die Uhr und sieben Tage die Woche zu arbeiten. Es war eine sehr herausfordernde, aber auch eine sehr lohnende Zeit, mit einem fantastischen menschlichen und persönlichen Engagement, Solidarität und Zusammenarbeit.

Was waren die Ergebnisse Ihrer Arbeit der letzten Monate?

Wir mussten alles für die Vorhersage des Pandemieverlaufs neu aufbauen. Wir hatten zwar eine grosse Datenmenge des HUG, - Fälle, Ressourcen und so weiter -, aber so gut wie keine über den kantonalen, regionalen, schweizerischen und europäischen Kontext; ganz zu schweigen von Daten zum Verhalten des Virus selbst, das auch heute noch viele Unbekannte hat. Darum entwickelten wir viele Werkzeuge, um an Daten zu kommen - sowohl digitale als auch menschliche. Parallel dazu entstand ein Dashboard für unser Management, das die Entwicklung unseres Spitals dynamisch und im regionalen, nationalen und internationalen Kontext aufzeigen konnte. Und natürlich arbeiteten wir an vielen verschiedenen Ansätzen, um die Entwicklung der Pandemie abschätzen zu können. Dabei ist die grösste Herausforderung, vorherzusagen, was am wahrscheinlichsten passieren wird, anstelle von szenariobasierten "Was passiert, wenn ..."-Prognosen.

Welche Reaktionen erhalten Sie von Patienten, wenn sie von künstlicher Intelligenz hören? Sind sie skeptisch?

Ich glaube, hier sind zwei Aspekte wichtig. Zunächst verstehen die meisten Menschen nicht wirklich, worüber man spricht, wenn es um künstliche Intelligenz geht. Es gibt viel mehr Ignoranz als Skepsis. Diese Ignoranz führt in vielen Fällen zu Mistrauen - das passiert übrigens oft auch bei Fachleuten. In meinem Team verwenden wir eine Menge Energie dafür, Nachweise zu sammeln. Im heutigen Gesundheitswesen ist es wichtiger, Evidenz und Vertrauen aufzubauen, als Erklärbarkeit und Verständnis zu schaffen. Wenn ich als Patient ein Medikament, ein Gerät oder eine Entscheidungshilfe brauche, oder wenn ich als Fachkraft diese benutze, dann muss ich darauf vertrauen können. Es ist nicht möglich, dass jeder alles versteht, was verwendet werden kann. Aber wir alle müssen dem Ganzen vertrauen.

Kritiker behaupten, es sei schwierig, KI-Technologie in Schweizer Krankenhäusern einzusetzen, weil es an digitalen Daten mangele. Ist es wirklich so schlimm?

Die Schweiz hat im Vergleich zu ihrer Grösse sehr viele digitale Daten, und es gibt kaum Probleme, sie für Projekte mit künstlicher Intelligenz zu nutzen. Für die Forschung gibt es dafür ein klares, gut definiertes Verfahren, mit Ethikkommissionen, Konsens und so weiter. Diese Verfahren dauern in der Regel zwei bis drei Monate. Die echte, oft ignorierte Herausforderung bei Gesundheitsdaten ist aber die Interoperabilität: Es ist nicht einfach, die Daten aus verschiedenen Spitälern zusammenzuführen, weil sie alle unterschiedliche Maschinen, unterschiedliche Methoden und unterschiedliche Prozesse verwenden. Das gilt allerdings für alle Länder.

Andere sagen, dass die Schweiz KI-freundlichere Gesetze braucht, um erfolgreich zu bleiben. Wie KI-freundlich ist unser Land Ihrer Meinung nach?

Diesen Punkt kann ich nicht nachvollziehen. Die Schweiz ist forschungsfreundlich. Sie hat eine gute Balance zwischen den Herausforderungen der Forschung, den Bedürfnissen der Industrie und der Achtung der Privatsphäre. Und die Regeln gelten gleichsam für Gesundheitsdaten, Steuerdaten wie auch für soziale Informationen. Leider ist jeder Schritt in eine Richtung ein Schritt weg von einer anderen. Wir brauchen ein Gleichgewicht zwischen diesen Ebenen.

Wo sehen Sie die Schweiz im Vergleich zu anderen Ländern hinsichtlich des KI-Einsatzes in Krankenhäusern?

Hier sehe ich drei Aspekte. Der erste ist die Beteiligung der Schweizer Spitäler an der Entwicklung der KI-Technologie. In allen fünf Universitätsspitälern der Schweiz gibt es Gruppen, die in diesem Bereich forschen und Anwendungen für verschiedene Einsatzgebiete entwickeln. Der zweite Aspekt betrifft den Einsatz dieser Anwendungen in der täglichen Arbeit der Kliniker und des Managements. Hier sehe ich, dass es Standardwerkzeuge gibt, etwa Bildgebungsmodalitäten mit integrierten KI-Tools, die zwar täglich verwendet werden. Aber für die meisten praktischen Anwendungsfälle fehlt es im Moment an Instrumenten, die die gesetzlichen Rahmenbedingungen erfüllen, die sich als sicher erwiesen haben und einen Mehrwert bringen - der Weg von einem Laborprojekt zu einem validierten Werkzeug ist hart. Der dritte Aspekt betrifft die Lehre: Die künstliche Intelligenz muss Teil der Ausbildung von Pflegefachleuten werden; angefangen an der Universität und dann während der gesamten Laufbahn. An der Universität Genf und an den Genfer Universitätsspitälern sind Datenwissenschaft und künstliche Intelligenz Teile des medizinischen Kursus, vom ersten Jahr des Bachelor bis zum Doktorat in Biowissenschaften, Track "Digital Health and Genomics", dem ersten universitären Medizindoktorat dieser Art in der Schweiz.

Was ist Ihre Vision, wenn es um künstliche Intelligenz in Spitälern geht?

Die künstliche Intelligenz hat bereits Einzug in die Spitäler gehalten, für Bilderkennung, Spracherkennung, Signalverarbeitung, prädiktives Management und viele andere Anwendungen. Diese Bewegung wird weitergehen. Bestehende Instrumente werden kontinuierlich verbessert. Für Kliniker ist die künstliche Intelligenz ein Werkzeug wie jedes andere, mit einer Sensitivität, einer Spezifität, mit positiven und negativen prädiktiven Werten in bestimmten Situationen. Sie wird, wie jedes andere Werkzeug, zunehmend eingesetzt werden, sobald sie ihre Zuverlässigkeit verbessert hat.

Wo sehen Sie die Grenzen künstlicher Intelligenz?

Das ist eine wirklich schwierige Frage. Es gibt viele verschiedene Ansätze der künstlichen Intelligenz, jeder hat Vorteile und Grenzen. Jede dieser Techniken eignet sich gut für bestimmte Herausforderungen und schlecht für andere. Eine große Herausforderung besteht heute sicherlich darin, zu verstehen, dass wir von der "super künstlichen Intelligenz, die alles schaffen wird", sehr weit entfernt sind. Es gibt heute keine Techniken, die von sich aus alle Bedürfnisse befriedigen können. Künstliche Intelligenz ist ein facettenreiches, komplexes Gebiet, das mit vielen verschiedenen Bereichen und Werkzeugen arbeitet. Einige Probleme werden mit künstlicher Intelligenz gelöst werden, andere erst nach langer Zeit. Die wirklichen Grenzen liegt in unserer Fähigkeit zu verstehen, wo welche Tools eingesetzt werden sollen, und darauf hinzuarbeiten, für reale Probleme reale, messbare und reproduzierbare Lösungen zu finden.