Wie künstliche Intelligenz den Spitalalltag verändert

Welche Strategie verfolgt das Spital STS Thun bei seinen Kommunikationsdiensten? Welche Systeme stellen den reibungslosen Austausch im gesamten Spital sicher? 

Klaus Späth: Wir sind bereits vor über 20 Jahren von einer papierbasierten Krankenakte auf ein digitales Klinikinformationssystem umgestiegen und heute in den meisten Bereichen unseres Spitals komplett digital unterwegs. Wenn ich aber unsere Ärztinnen und Ärzte oder unser Pflegepersonal fragen würde: "Was ist für eure Arbeit wichtiger: das Telefon oder der Computer?" Dann weiss ich nicht, wie viele sich wirklich für den Computer als Antwort entscheiden würden. Für uns ist klar: Das Telefon hat in unserer digitalisierten Arbeitswelt immer noch einen sehr hohen Stellenwert. Aus diesem Grund ist für uns eine stabile und zuverlässige Telefonie, neben einem guten Netzwerk und einem ausfallsicheren Rechenzentrum, elementar wichtig. Die klassische Telefonie hat sich schon lange in die Richtung einer digitalen Kommunikationsplattform weiterentwickelt. Wir setzen auf eine Kommunikationslösung, die besonders in den Bereichen Ausfallsicherheit, Integrationsfähigkeit sowie Stabilität punktet und damit hochverfügbare und redundante Telefonie-Services möglich macht. Mittlerweile haben wir neben den klassischen Systemen auch Microsoft Teams als Telefonie für den gesamten Verwaltungsbereich integriert. Im Bereich Patientenruf und Alarmierung nutzen wir Lösungen, die vollständig integriert sind. Bei der Patiententelefonie und im Patientenentertainment sind ausserdem Patiententerminals eingebunden. Als Endgeräte nutzen wir neben Telefonen auch spezielle Smartphones. Die Anbindung der Endgeräte reicht von kabelgebundenen Varianten über WLAN, von Dect bis hin zu 3G-, 4G- und zukünftig auch 5G-basierten Telefonen.  

Wie schützt sich das Spital STS vor Hacker­angriffen?

Hackerangriffe auf Spitäler sind mittlerweile leider nicht mehr vereinzelte Ausnahmen, sondern beinahe die Regel. Aus diesem Grund hat der Schutz unserer Umgebung sowie der Schutz unserer Daten höchsten Stellenwert. Neben den klassischen Schutzmechanismen wie Antivirensystemen oder Firewall versuchen wir zunehmend, weniger Angriffsfläche für die Hacker zu bieten. Wir setzen dabei auf ein stark segmentiertes Netzwerk. Dabei nutzen wir Netzwerk Access Control (NAC) und  haben strenge Passwortrichtlinien mit Multi-Faktor-Authentifizierung. Ausserdem betreiben wir ein Security Information and Event Management (SIEM) / Security Operations Center (SOC) und haben ein sehr gutes Patch- und Vulnerability-Management. Des Weiteren gehen wir aber auch einen – zugegeben – eher unkonventionellen Weg. Um uns vor Hackerangriffen zu schützen, greifen wir auf die Unterstützung von Hackern selbst zurück. In der Schweiz und auch in anderen Ländern gibt es Organisationen wie etwa Bug Bounty Switzerland. Sie vermitteln ethische Hacker oder sogenannte White Hats, also "gute Hacker", um mit ihnen einen realen Angriff auf unsere Infrastruktur durchzuführen. Für den Fall, dass dabei Schwachstellen aufgedeckt werden, setzt das Spital STS ein Preisgeld, also ein "Bounty", aus und zahlt eine Summe, abhängig von der Kritikalität der gefundenen Schwachstellen. Je besser unsere Umgebung bereits geschützt ist, desto geringer sind die Kosten. Wir waren mit dem Ablauf und dem Ergebnis sehr zufrieden und werden auch zukünftig diesen Service wieder nutzen. 

Intelligente Assistenten kommen in immer mehr Bereichen zum Einsatz. Wo greift das Spital STS ­bereits auf KI-Assistenten zurück?

Eine der grössten Stärken der künstlichen Intelligenz ist die Mustererkennung. Wir nutzen KI im Bereich der Radiologie schon viele Jahre. Immer mehr unterschiedliche Untersuchungen können dank einer KI-Lösung, wie etwa von AIDOC, innerhalb weniger Minuten auf pathologische Befunde wie beispielsweise Einblutungen oder krankhaft veränderte Zellen überprüft werden. Das Ziel ist hier aber nicht, die Diagnose der Radiologin oder des Radiologen überflüssig zu machen. Vielmehr wollen wir die Fachärzte unterstützen und dabei vor allem Einfluss auf die Priorisierung der zu erledigenden Arbeiten nehmen. Denn wenige Minuten nach der durchgeführten Untersuchung ist der Befund der KI bereits fertig. Wird ein pathologischer Befund diagnostiziert, wandert die Untersuchung auf Position eins der Arbeitsliste des Radiologen. So stellen wir sicher, dass kritische Diagnosen innerhalb sehr kurzer Zeit vorliegen und sowohl von der KI als auch den Radiologen verifiziert wurden. Bevor die Patientin oder der Patient nach der Untersuchung das Spital wieder verlässt, kann unmittelbar mit der Behandlung begonnen oder in manchen Fällen können weitere Untersuchungen ausgelöst werden. Verständlicherweise sind unsere Fachärzte wenig begeistert, wenn in der Nacht die Notfallstation anruft mit dem Auftrag, unverzüglich eine Untersuchung eines eingelieferten Patienten zu begutachten, um einen krankhaft veränderten Befund auszuschliessen. Wenn nun die KI zum Schluss kommt, dass kein krankhaft veränderter Befund vorliegt, werden wir bei der hervorragenden Erkennungsrate in Zukunft vielleicht darauf verzichten können, in der Nacht eine Radiologin oder einen Radiologen aus dem Bett zu holen. Stattdessen kann die Überprüfung des KI-Befunds zukünftig am nächsten Tag während der normalen Betriebszeiten erfolgen. Es gibt aber noch ganz viele weitere Bereiche im Spital, wie beispielsweise die KI-unterstütze Personaleinsatzplanung, die KI-gestützte Optimierung unseres OP-Programms, den Einsatz von KI-gestützten Chat­bots bei Patientenanrufen, KI-basierte  Entscheidungsunterstützungen in medizinischen Fragen oder KI-basierte Anwendungen in Verbindung mit unserem OP-Roboter "DaVinci". Natürlich befinden sich einige Systeme davon noch im Testbetrieb und in der Planung. Trotzdem bin ich überzeugt, dass wir den Grossteil davon in den nächsten Jahren fest in unsere Arbeitsprozesse integrieren.

Microsofts KI-Assistent, Copilot, kann grundsätzlich auf alle Daten zugreifen, die für ihn freigegeben wurden. Wie handhabt das STS den Umgang mit dem Copilot?

Sie sprechen hier ein sehr spannendes Thema an, denn wir sehen hier für uns tatsächlich ein sehr grosses Potenzial. Wir testen Microsoft Copilot im Zusammenhang mit der Einführung unseres neuen Intranets und unserer neuen Kollaborationsplattform auf Basis Microsoft Teams. Bisher war das Finden von spezifischen internen Informationen, besonders bei Vorgabedokumenten, in denen Reglemente oder Weisungen für die Behandlung der Patientinnen und Patienten enthalten sind, für die User sehr mühsam und teilweise auch sehr zeitintensiv. Bis sie das richtige Dokument und darin dann die richtige Stelle gefunden haben, vergehen oft viele Minuten. Wir testen in diesem Zusammenhang den Einsatz von Copilot, der innerhalb weniger Sekunden die richtige Antwort aus all unseren eigenen gespeicherten Dokumenten heraussucht. Zur Absicherung zeigt er ebenfalls noch das Dokument an, in dem er die aus seiner Sicht richtige Information gefunden hat. So erhalten die Mitarbeitenden nicht nur viel schneller die passende Antwort, sondern können zudem noch überprüfen, ob der Copilot wirklich das korrekte Dokument gefunden hat. Im Dokument stehen dann häufig noch weitere wichtige ergänzende Informationen, die in der Fragestellung vielleicht nicht enthalten waren, aber für die Behandlung durchaus relevant sind. Leider sind hier aber die datenschutzrechtlichen Fragen noch nicht vollständig geklärt und es wird bis zum produktiven Einsatz noch einige Tests und Abklärungen brauchen. 

Welche Bedenken hat das STS hinsichtlich Datenschutz und Vertraulichkeit beim Einsatz von KI?

Datenschutz und Vertraulichkeit sind bei allen cloudbasierten Services ein sehr heikles Thema – nicht nur in Verbindung mit KI, denn wir reden in unserem Fall von Personendaten, die besonders schützenswert sind. Die Möglichkeiten, die insbesondere KI bietet, sind beeindruckend. Dennoch ist es uns sehr wichtig, einen ausgewogenen Ansatz zu finden, der die Vorteile von KI nutzt, gleichzeitig aber die Privatsphäre und Vertraulichkeit der Nutzerinnen und Nutzer maximal schützt. Für mich persönlich überwiegen die positiven Aspekte der KI bei Weitem gegenüber den möglichen Risiken und Gefahren. Aber natürlich beschäftigen uns einige negative Punkte sehr wohl. KI-Systeme sind oft komplex und schwer nachvollziehbar. Es ist wichtig, dass die Funktionsweise von KI-Algorithmen transparent ist, damit Nutzerinnen und Nutzer verstehen, wie Entscheidungen getroffen werden. Gerade bei Anwendungen im Bereich der Large Language Models (LLMs), wie bei ChatGPT oder Copilot, hängt das angezeigte Ergebnis stark von der eingegebenen Fragestellung ab. In der Regel kann man sagen: Je besser und präziser die Frage gestellt wird, desto besser ist auch das Ergebnis. In manchen Fällen kommen sogar komplett irreführende oder falsche Antworten zurück. Man muss daher den Anwendern dieses Problem bewusst machen und sie schulen, die Fragen exakt zu formulieren und die Antworten kritisch zu hinterfragen. KI-Systeme sind nicht immun gegen Angriffe und Kriminelle könnten Zugang zu den dahinter liegenden Daten bekommen. Da es sich bei KI-Systemen in der Regel um cloudbasierte Anwendungen handelt, reicht es nicht aus, dass das Spital STS seine Systeme sicher aufsetzt und im Griff hat, sondern wir müssen auch die Sicherheitsstandards unserer Cloud-Anbieter überwachen. Das ist mitunter sehr schwierig und bindet zusätzliche Ressourcen. Die beste Sicherheit gibt es aus unserer Erfahrung dann, wenn der Datenschutz bereits bei der Entwicklung der KI-Systeme berücksichtigt wurde. Ein letzter Punkt, den ich ansprechen möchte, ist die missbräuchliche Verwendung der Daten. Nutzerinnen und Nutzer müssen sich darauf verlassen können, dass die Daten ausschliesslich für den angegebenen Zweck verwendet werden. Hier ist insbesondere der Gesetzgeber gefordert und muss klare Richtlinien und Gesetze erlassen, um den Datenschutz im KI-Bereich zu gewährleisten.

Zur Person
Klaus Späth hat einen Abschluss als Diplom-Ingenieur der Hochschule Ulm mit Fachgebiet Informatik und Produktionstechnik und darauf aufbauend sein Informatik- und Prozess-Know-how in verschiedenen Funktionen laufend erweitert. In seiner mittlerweile 36-jährigen IT-Laufbahn hat er in etlichen Bereichen der IT entsprechende Kenntnisse erworben und verschiedene leitende Positionen sowohl auf Lieferanten-/Herstellerseite wie auch auf Kundenseite innegehabt. Erfahrungen im Gesundheitswesen sammelt Klaus Späth seit 2012, zunächst im Universitätsklinikum Ulm als Leiter IT-Infrastruktur und ab 2017 als interimistischer Direktor Informatik. Seit 2018 arbeitet er als CIO des Spitals STS in Thun. Er hat nicht nur die notwendigen Kenntnisse der Spital-Informatik, sondern auch eine gute Vorstellung, wie sich diese künftig weiterentwickelt und wo Potenzial für Prozessoptimierungen bestehen. Quelle: STS Thun