IBM forscht am Hirn der künstlichen Intelligenz
IBMs Forschungsabteilung hat an einem Pressetag in Rüschlikon gezeigt, was sich in Sachen künstlicher Intelligenz (KI) zusammenbraut. Die Forscher warfen Grundsatzfragen auf und präsentierten aktuelle Projekte – darunter KI als Rhetoriker, als Parfümeur und als Ärztevermittler.
Forschung im Dienste des Business: Das ist der Zweck von IBMs zwölf weltweit verteilten Forschungslaboren, wie IBM-Fellow Alessandro Curioni am diesjährigen Press Day von IBM Research Zürich sagte. Der Standort in Rüschlikon sei der erste, den die Forschungsabteilung von IBM ausserhalb der USA eröffnete. Das war 1956.
Seither seien sechs Nobelpreisträger aus den Reihen der IBM-Forscher hervorgegangen, zwei davon aus dem Labor in Rüschlikon. Warum überhaupt ein Standort in der Schweiz? "Die wichtigsten Gründe sind hohe Lebensqualität, exzellente Hochschulen und ein innovatives Geschäftsumfeld, das uns erlaubt, Innovationen schnell zu testen und effizient umzusetzen", sagte Curioni.
Künstliche Intelligenz braucht Vertrauen
"Künstliche Intelligenz ist für uns das wichtigste Forschungsfeld", sagte Curioni. Denn erst KI-Anwendungen würden es ermöglichen, aus riesigen Mengen an Daten etwas Wertvolles zu generieren. Diese Einsicht sei allerdings nichts Neues, räumte Curioni ein. "Die Grundlagen für maschinelles Lernen sind bereits über 20 Jahre alt", sagte er. Spezifische Aufgaben könnten KI-Modelle deswegen heute schon ganz gut erledigen. "Doch es liegt noch viel Arbeit vor uns, wenn wir KI für breitere Zwecke einsetzen wollen", sagte Curioni.
Heute sei die Forschung dran, Verzerrungen in Machine-Learning-Modellen zu bereinigen. "Wenn wir dies nicht schaffen, können wir kein Vertrauen für diese Technologien schaffen", sagte Curioni. Und dies sei schliesslich die Krux an der ganzen Sache. "Nutzer müssen künstlicher Intelligenz und vor allem den Herstellern solcher Technologien vertrauen können", sagte IBMs Leiterin der KI-Ethik-Abteilung Francesca Rossi über eine Videokonferenzschaltung. Der Ball liege allerdings bei den Herstellern. Diese müssten zu diesem Zweck ihre unternehmerische Verantwortung wahrnehmen.
Datenmüll weckt den Rüpel in der KI
Deswegen publizierte IBM Research im August ein Factsheet für KI-Dienste. Es schlägt Richtlinien für Nutzer vor, soll aber auch Standards für Entwickler ins Rollen bringen. Ziel sei es, Transparenz herzustellen und Design-Entscheidungen offen zu dokumentieren. Es solle stets klar ersichtlich sein, wer ein neuronales Netz trainiert habe und auf welche Art und Weise. "Es will ja schliesslich niemand mit einer KI arbeiten, die wie eine Black Box daherkommt", sagte Rossi. Ausserdem gelte es, für Probleme zu sensibilisieren.
Solche bestünden derzeit vor allem dann, wenn die Datengrundlage von Machine-Learning-Modellen nicht breit genug sei. "In solchen Fällen kommt es zu unfairen Entscheidungen", sagte Rossi. Ein prominentes Beispiel sei Microsofts Chatbot namens Tay. Dieser gab schon nach wenigen Stunden auf Twitter lauter rassistische und sexistische Bemerkungen von sich.
Das Märchen von der guten KI
Auf die Frage, ob es derzeit eine ethisch korrekte KI gäbe, hatte Informatikprofessor Barry O'Sullivan eine klare Antwort: Nein. O'Sullivan ist Präsident der Interessensgemeinschaft European Association for Artificial Intelligence und traf sich mit Rossi und 50 weiteren Forschern in Brüssel, wo sie Empfehlungen an die EU-Kommission abgeben.
Die Moral künstlicher Intelligenz sei im Prinzip Verhandlungssache. Denn "es gibt keinen Konsens über ethische Prinzipien – sie hängen von gesellschaftlichen Normen ab, die wiederum durch kulturelle Werte geprägt werden", sagte O'Sullivan. Dies habe auch das Moral-Machine-Experiment gezeigt. Bei dieser Onlinebefragung beantworteten weltweit rund vier Millionen Menschen Fragen zu Unfallsituationen von selbstfahrenden Autos. Die Meinungen, wie sich ein Wagen verhalten soll, wenn ein Unfall unvermeidlich ist, gingen zwischen Probanden aus westlichen, östlichen und südlichen Ländern stark auseinander.
KI-Forscher müssten sich stärker mit Warum-Fragen befassen, sagte O'Sullivan. "Nur weil wir etwas tun können, heisst das noch lange nicht, dass wir das tun sollten", sagte er. Ein Beispiel für eine sinnlose KI-Anwendung sei etwa eine Gesichtserkennungs-Applikation von Wissenschaftlern der Universität Stanford: Ihr Programm sollte anhand von Fotos die sexuelle Orientierung von Menschen bestimmen.
Die KI im Debattierclub
IBMs ehemalige Prestigeprojekte Big Blue und Watson hätten einen würdigen Nachfolger gefunden, sagte KI-Forscher Aya Soffer von IBM Research Haifa. In einem Video zeigte er die erste Vorführung von IBMs Project Debater, die im vergangenen Juni in San Francisco stattfand. Sechs Jahre habe IBM in die Entwicklung der Maschine gesteckt, die Menschen mit Argumenten schlagen soll.
Der Debattiertest sei für eine KI wesentlich schwieriger als etwa das Duell, das Alpha Go gewann. Denn bei Brettspielen wie Go oder Schach könne eine KI Logik einsetzen, die Menschen nicht verstehen würden. Wenn es aber ums Argumentieren gehe, müsse eine KI die Nuancen der menschlichen Sprache verstehen und rhetorische Fähigkeiten kreativ einsetzen, sagte Soffer.
IBMs KI gewann den Debattierwettbewerb. Die Maschine konnte das Publikum sogar mit Humor begeistern, auch wenn manche der Witze etwas einstudiert wirkten. Entscheidend war jedoch, dass die KI die Argumente seiner Kontrahenten auf eine spielerische Art und Weise widerlegen und so die Gunst des Publikums gewinnen konnte. Für Soffer war dies der Beweis, dass IBMs KI einen weiteren Meilenstein erreicht habe.
Die künstlich intelligente Nase
Zwei Kunden zeigten am Pressetag, wie sie mit IBMs KI ihre Geschäftsmodelle auffrischen. Achim Daub, Vorstand Scent & Care des Duftherstellers Symrise, erklärte, wie sein Unternehmen mithilfe von KI ein Parfüm herstellt. "Parfümeure sind Künstler", sagte er, "die kann auch eine KI nicht ersetzen". Aber eine KI sei derzeit im Einsatz, um einige der Parfümeure in seinem Unternehmen quasi als Assistenten zu unterstützen. David Apel, VP Senior Perfumer bei Symrise, erklärte, wie das funktioniert.
David Apel, VP Senior Perfumer bei Symrise. (Source: Netzmedien)
IBMs KI schlägt aus einem riesigen Korpus an Rezepten neue Formeln vor, wie Apel erklärte. "Sie kreiert noch nie dagewesene Düfte, die tatsächlich die Fantasie anregen – das ist es, was jeder Parfümeur will", sagte er. Die Parfümeure müssten allerdings nach wie vor die Formeln interpretieren, beurteilen und anpassen. Aber der schwierigste Teil ihrer Arbeit werde wesentlich einfacher. "Sie füttert mich geradezu mit Ideen, so geht der kreative Prozess viel schneller", sagte er.
Der Chatbot als Gesundheits-Rageber
Andy Fischer, CEO des Telemedizin-Anbieters Medgate, will mithilfe digitaler Technologien das Gesundheitswesen effizienter gestalten, wie er sagte. Mithilfe von IBM lanciert Medgate einen Chatbot, der Patienten an telemedizinische Einrichtungen oder an Leistungserbringer vermitteln soll.
Andy Fischer, CEO von Medgate. (Source: Netzmedien)
Der Clou an der Sache: Ein KI-gesteuerter Fragekatalog soll vorab prüfen, ob sich eine Telekonsultation für einen Nutzer überhaupt lohnt. Der Chatbot soll jene Patienten, die ärztliche Behandlung bräuchten, direkt an einen Arzt oder eine Apotheke vermitteln. Dies solle schliesslich die Kosteneffizienz der Gesundheitsversorgung und die Zufriedenheit der Patienten verbessern, wie Fischer sagte.