Können KI-Chatbots die ­Patientenversorgung transformieren?

Chatbots und Sprachassistenten

«Ich habe ihre Eingabe nicht verstanden.» Solch wohlbekannte Antworten von Kundenportalen vergangener Tage bekommt man bei modernen Chatbots und Sprachassistenten kaum noch. Mit menschlicher Expertise versehen, geben sie geschliffene Antworten in einer Vielzahl von Anwendungsbereichen, auch in der Medizin (Kung et al., 2023: https://doi.org/10.1371/journal.pdig.0000198). Grosses Potenzial bieten dabei LLM-basierte Systeme (Large Language Model) wie das derzeit omnipräsente ChatGPT, die Eingaben in normaler Sprache verarbeiten können (Natural Language Processing).

Anwendungsbereiche für KIs in der Medizin

Chatbots können bereits heute eine Reihe von Aufgaben im Gesundheitswesen wahrnehmen. Dazu zählen Tätigkeiten wie das Vereinbaren von Arztterminen oder Aufnehmen von Patientendaten, aber auch Teilschritte beim Bearbeiten von Versicherungsanfragen. Das Auslagern solch vergleichsweise einfacher, aber zeitaufwendiger Funktionen kann Mitarbeitende im Gesundheitswesen substanziell entlasten.

Auch originär menschliche Aufgaben sind nicht mehr aus­sen vor: So können KIs auf Onlineplattformen zur Unterstützung von Personen mit psychischen Problemen die Empathie der Antworten menschlicher Beratung mittlerweile massgeblich verbessern (Sharma et al., 2023: https://doi.org/10.1038/s42256-022-00593-2). Darüber hinaus können Chatbots zuverlässige medizinische Informationen «ermüdungsfrei» kommunizieren – unschätzbar in Zeiten von Fake News. Während der Coronapandemie hat etwa die indische Regierung einen eigens entwickelten Chatbot eingesetzt, um über 100 Millionen Anfragen zu SARS-CoV-2 zu beantworten und Falschinformationen im besten Fall gezielt gegenzusteuern.

Auch auf Expertenebene werden KIs in Zukunft die Kommunikation verbessern können, zwischen Arztpersonal und Patientinnen und Patienten, aber auch zwischen Fachleuten verschiedener Disziplinen. Tiefes Fachwissen ist schliesslich keine Garantie dafür, dieses auch auf einfache Weise vermitteln zu können. Bemerkenswerterweise scheint selbst eine Anwendung in der Diagnostik inzwischen in Reichweite. KIs können aus der Kurzzusammenfassung einer Patientenakte eine Differentialdiagnose erstellen und einen Behandlungsplan vorschlagen.

Mögliche Risiken von KIs

Die rasanten Entwicklungen von KIs werfen die Frage auf, ob beziehungsweise ab wann sie als Medizinprodukte gelten, was mit einer Reihe strenger regulatorischer Anforderungen einhergeht. Wie kann die Qualität ihrer Auskünfte garantiert werden? So überzeugend Antworten moderner KIs klingen mögen, korrekt sind sie nicht zwangsläufig (Alkaissi et al., 2023: https://doi.org/10.7759%2Fcureus.35179). Wie müssen KIs trainiert werden, um «Halluzinationen» (etwa plausibel klingende Fantasie-Antworten) zu vermeiden? Sollen Chatbots in näherer Zukunft autonom medizinisch beraten dürfen? Wer ist ethisch und juristisch verantwortlich für ihre Antworten? (Sallam, 2023: https://doi.org/10.3390%2Fhealthcare11060887) Diesen Fragestellungen sollte vermehrt Aufmerksamkeit geschenkt werden, bevor regulatorische Richtlinien die Verantwortung auf den Einzelnen abwälzen. Allein aufgrund dieser offenen Fragen werden Fachleute auf absehbare Zeit nicht ersetzt werden können.

Mit Blick auf die Patientenperspektive sollte sichergestellt werden, dass eingesetzte KIs ausgereift und bei Bedarf auch menschliche Mitarbeitende erreichbar sind. Und natürlich muss auch für KIs gelten: Wo sensible Patientendaten im Spiel sind, muss Datensicherheit gewährleistet und extern validiert sein!

Ausblick

Künstliche Intelligenz wird Chatbots auch im Gesundheitswesen revolutionieren. Ihr Einsatz setzt aber, wie im Übrigen jede neue Technologie, eine kritische Nutzung und den nötigen Sachverstand voraus und macht eine entsprechende möglichst frühzeitige Befähigung von medizinischem Personal und Anwenderinnen und Anwender im Gesundheitswesen notwendig. Schreitet die Entwicklung von KIs im aktuellen Tempo fort, werden sie vermutlich einen wichtigen Beitrag im Gesundheitssystem leisten können, insbesondere in administrativen Bereichen, später vermutlich auch in der Diagnostik und Therapie. Wir erleben gerade den Beginn einer spannenden Ära!