Fusspilzcrème statt Tabletten

Es ist Herbst 2023 – und die IT-Branche steckt noch immer mitten im ChatGPT-Hype. Auch das Start-up Be My Eyes ist auf den Trend aufgesprungen. Die vom dänischen Jungunternehmen entwickelte Plattform ermöglicht es blinden Menschen, sich bei Bedarf und auf Knopfdruck per Videochat mit sehenden Freiwilligen zu verbinden, die ihnen dann «ihre Augen leihen», wie es im Slogan der App heisst. Ein simples und doch sehr effektives Konzept, das blinden Menschen in allen möglichen Lagen hilft – etwa beim Lesen des Ablaufdatums auf Lebensmitteln, beim Erkennen von Farben der Kleider oder bei der Orientierung in unbekannten Umgebungen.

Neu aber steht den blinden Usern auch die kreativ benannte Funktion «Be My AI» zur Verfügung. Anstelle eines Menschen übernimmt hier eine künstliche Intelligenz – nämlich das Sprachmodell GPT-4 von OpenAI – das Assistieren. In ihrer Ankündigung schwärmen die Macher vom Potenzial der neuartigen Technologie. Sie berichten etwa von einem User, der sich mit dem KI-Feature sicher und erfolgreich durch einen Bahnhof navigieren liess. Gleichzeitig betonen die Entwickler den Beta-Charakter der neuen Funktion und warnen vor den Unzulänglichkeiten der KI. Zu Recht, wie mein Selbstversuch zeigte.

Ich testete «Be My AI», indem ich eine Schachtel eines Medikaments fotografierte, das ich einnehme: Zwei Minuten später – eine sehende Person hätte in puncto Geschwindigkeit schon mal die Nase vorn gehabt – informierte mich die KI darüber, dass das Foto «eine Tube Lamisil» zeige. Dabei handle es sich um eine Salbe zur Behandlung von Fusspilz, fügte der Chatbot auf meine Nachfrage hinzu.

Während die zweite Antwort korrekt ist, war die erste Auskunft einfach nur falsch: Mal abgesehen davon, dass sich der eigentliche und der fabulierte Produktname in keiner Weise ähneln, handelt es sich beim fotografierten Medikament auch nicht um eine Salbe, sondern um Tabletten.

Der Grund für die immerhin sehr offensichtlich kreuzfalsche Auskunft dürfte das von mir gemachte Foto sein. Ich gab mir beim Fotografieren zugegebenermassen keine grosse Mühe und die Lichtverhältnisse waren wohl auch nicht ideal. Doch während eine sehende Person dies wohl ohne Mühe erkannt und mich um eine bessere Aufnahme gebeten hätte, fabulierte GPT-4 munter drauflos – kein Hinweis auf schwer lesbare Texte oder unbefriedigende Lichtverhältnisse. Dennoch fällt es mir nach diesem ersten Erlebnis schwer, der KI zu vertrauen. Was wäre, wenn sie sich im Ernstfall weniger offensichtlich irren würde – wenn sie etwa Dosier-Anweisungen oder Haltbarkeitsdaten von Medikamenten falsch interpretieren oder erfinden würde? Und warum sollte ich mich von einer KI, die in Tabletten eine Fusspilzcrème zu erkennen glaubt, durch einen Bahnhof navigieren lassen?

Natürlich plädiere ich nicht gegen den Einsatz und das Ausprobieren von KI. Auch im vorliegenden Magazin lesen Sie, wie künstliche Intelligenz in der Medizin zum Einsatz kommt. Hauptthema dieser Ausgabe ist jedoch das elektronische Patientendossier (EPD). Seit man dieses online eröffnen kann, habe auch ich eines. Doch genützt hat es mir bislang nichts, ähnlich wie der neue KI-Assistent Be My Eyes aus Dänemark.