Alessandro Curioni: "Maschinen werden nie Entscheidungen für Menschen treffen"

Sie sind seit mehr als 20 Jahren beim IBM Research Lab in Zürich tätig und haben hier viel erreicht. Worauf sind Sie besonders stolz?

Alessandro Curioni: Ich kam als theoretischer Chemiker und als Computerwissenschaftler zum Research Lab. In meiner technischen Karriere habe ich immer versucht, mit Computern die Wirklichkeit zu simulieren und dann mithilfe dieser Simulation grosse Probleme von Firmen oder der ganzen Gesellschaft zu lösen. Zu Beginn funktionierte das jedoch nur theoretisch. Es brauchte einige Jahre der Entwicklung und es brauchte mehr und bessere Rechenpower. Heute sind wir soweit, dass wir dies wirklich tun können, indem wir zum Beispiel alleine durch eine Simulation eine Silikon-Alternative zur Verwendung in Halbleitertechnologien finden und so das Materialdesign unterstützen. Und zu erleben, dass diese Theorie heute ganz real angewendet wird, halte ich für eine der grössten Errungenschaften.

Was passierte in den vergangenen Jahren auf technischer Ebene?

Im Computing haben wir mehr als 30 Jahre lang die Rechenleistung erhöht, indem wir kleinere Transistoren entwickelten und dann mehr Transistoren auf einer Platine anbringen konnten, oder indem wir die Leistung der Transistoren beschleunigten. Diese Entwicklung verlangsamte sich zu der Zeit, als ich zu IBM Research kam, und wir fingen stattdessen an, Computer parallelisiert und skaliert zu betreiben. Die Berechnungen wurden auf vielen separaten Einheiten durchgeführt. Wir sprechen hier von Millionen von CPUs, die zusammenarbeiten. Damit lässt sich die Performance weiter steigern. Auch dies ist für mich eine grosse Leistung, denn es ist uns gelungen, zu zeigen, dass man damit wirklich höchst komplexe Applikationen laufen lassen kann. Oft sagte man mir, dass so etwas unmöglich oder enorm schwierig sein würde. Und als Wissenschaftler und Innovator Barrieren zu überwinden und zu demonstrieren, dass es möglich ist, schaue ich als meine grösste Leistung an.

Die Leistung ist also weniger ein einzelnes Ereignis als eine längere Entwicklung?

Genau. Es ist aber vor allem die Fähigkeit, mit neuen Entwicklungen Probleme in der realen Welt lösen zu helfen. Wenn eine Entwicklung per se für Unternehmen, die Gesellschaft oder die Welt keinen Unterschied machen kann, ist sie für mich keine Leistung, sondern nur noch ein Game. Wenn sich eine Idee nicht so umsetzen lässt, dass sie in der realen Welt, im Markt, für Menschen oder Geschäfte eine Veränderung bewirkt, ist es keine Innovation.

Warum ist künstliche Intelligenz (KI) heute so weit verbreitet?

Schauen Sie: Künstliche Intelligenz wird alles verändern, was wir tun – jedes Business, jeden Beruf – und zwar aus einem zentralen Grund. Der wichtigste Wert in unserer Welt ist Information, und Information steckt in Daten. KI ist das einzige Instrument, das es uns erlaubt, aus grossen Datenmengen Informationen und Wissen zu holen. Dank ihr werden wir bessere Entscheidungen schneller und effizienter treffen können. Der Grund, warum sich KI-Anwendungen heute so explosiv verbreiten, liegt darin, dass wir heute genug Rechenpower dafür haben, und wir haben die Power auch demokratisiert, dank der Cloud. Dank der Digitalisierung haben wir heute riesige Datenmengen, und dank des technologischen Fortschritts haben wir heute die Möglichkeit, diese mittels KI zu verarbeiten und einen Wert daraus zu schöpfen.

IBM engagiert sich sehr breit in der KI-Forschung. Auf welchen Bereichen liegt Ihr Fokus?

Wir entwickeln und erweitern grundsätzliche KI-Methoden, mit denen sich aus Daten Wissen und Informationen gewinnen lassen, mit denen wiederum bessere und schnellere Entscheidungen gefällt werden. Im grösseren Sinne arbeiten wir an der Erweiterung von KI. Die heute eingesetzten KI-Algorithmen nennen wir "Narrow AI". Diese Modelle lösen sehr spezifische Aufgaben sehr gut, schnell, akkurat und zuverlässig. Ein Beispiel wäre etwa eine Bilderkennung, die Schäden in einer Güterproduktion feststellt. Bei solchen Anwendungen ist KI heute besser und zuverlässiger als Menschen. Aber wir glauben, dass die grosse Revolution und der grosse Impact auf Geschäfte dann erfolgt, wenn wir von "Narrow AI" zu "Broad AI" wechseln. Da werden wir dann über die Modelle, die nur eine spezifische Sache können, hinausgehen.

Und welche Herausforderungen stellen sich bei dieser Transformation?

Wir müssen die KI vertrauenswürdiger machen. Zunächst ist wichtig, dass die KI-Methoden keinem unfreiwilligen Bias unterliegen. Die heutigen KI-Modelle basieren jedoch auf Daten aus der Vergangenheit, und oft sind diese Daten schon voller menschlicher Verzerrungen. Entwickeln wir beispielsweise ein KI-Modell, das der HR-Abteilung hilft, einen Unternehmens-CEO auszuwählen. Wird das Modell mit alten Daten aus der Vergangenheit trainiert, ohne den Bias zu entfernen, können Sie sicher sein, dass sich der Algorithmus regelmässig für weisse Männer entscheiden wird; denn früher wurde meistens genau so entschieden. Wir müssen Verzerrungen in Daten verstehen und messen, um sie später korrigieren zu können.

Glauben Sie, dass KI komplett frei von Verzerrungen sein kann?

Nein, und ich glaube auch nicht, dass dies so sein sollte. Denn es gibt auch Verzerrungen, die im Grunde gut sind. Wenn Sie etwa jemanden suchen, der Deutsch spricht, dann darf ich den "Bias" für deutsch sprechende Personen nicht entfernen. Es kommt also immer auf das Ziel an.

Wie steht es um die Sicherheit von Algorithmen?

Das ist der zweite wichtige Punkt, mit dem wir uns befassen. Oft lassen sich KI-Modelle angreifen, indem man den Algorithmus mit "zusätzlichem Lärm" stört. Sie könnten zum Beispiel kleine Änderungen an einem Stoppschild vornehmen und so schlimmstenfalls bewirken, dass die Bilderkennung des intelligenten Autos das Schild nicht mehr korrekt interpretiert. Wollen wir KI-Modelle kommerziell einsetzen, müssen wir die Angriffsmöglichkeiten kennen und die Algorithmen davor schützen.

Oft hört man auch den Ruf nach Transparenz.

Wir versuchen, klar aufzuzeigen, welche Daten für welches KI-Modell genutzt werden und wie der Algorithmus trainiert wurde. Und die Daten gehören immer den Leuten, die sie produzieren. Auch die bereits erwähnten Verzerrungen müssen offengelegt werden. Kurz: Transparenz entlang der gesamten Wertschöpfungskette ist superwichtig.

Wie sorgen Sie im Unternehmen für Transparenz?

Wir haben eine interne Richtlinie, die dazu aufruft. Wir versprechen, dass die Daten dem Produzenten gehören. Wenn wir ein Modell auf Daten anwenden, versprechen wir, dass das Modell wirklich nur den festgelegten Zweck erfüllt und nichts anderes. Wir haben uns spezifisch für dieses Vorgehen entschieden, weil wir es für notwendig halten, um Vertrauen herzustellen.

Sprechen wir über konkrete Geschäftsbereiche. Welche Felder erforschen Sie?

Wir beschäftigen uns mit allen Industriezweigen, die durch KI transformiert werden können. Dazu gehört etwa die Fertigung: KI ermöglicht das deutlich schnellere und bessere Aufspüren sowie das effizientere Korrigieren von Mängeln in den produzierten Gütern. KI kann auch besser voraussagen, wann die Produktionsmaschinen gewartet werden müssen.

Wir lesen immer wieder von Entwicklungen im Strassenverkehr. Wann, glauben Sie, werden wir vollkommen autonom fahrende Autos haben?

Die Technologie wird sich in Schritten entwickeln. Und in diesem Fall geht es nicht nur darum, ob die Technologie selbst bereit ist. Vielmehr geht es um ein ganzes Ökosystem, das vorbereitet sein muss. Und natürlich geht es um Normen, Verlässlichkeit und weitere Aspekte. Es wird etwas Zeit brauchen, aber wir steuern in die richtige Richtung. Die ersten Flugzeuge, die wir hatten, transportierten nicht hundert Passagiere über den Ozean. Auch diese Entwicklung fand in Schritten statt.

Ich bin blind. Wann werde ich mein eigenes Auto legal und sicher fahren können?

Ich habe keine Kristallkugel, aber ich glaube und hoffe, dass dies baldmöglichst passiert. Schauen wir uns lediglich die grundsätzliche Technologie an, sind wir nicht so weit davon entfernt. Ich vermute, es wird uns stärker fordern, entsprechende Normen, geeignete Strassen und neue Regeln zu schaffen.

Das heisst, es ist mehr eine politische und soziale Frage?

Wir denken, dass überall, wo KI etwas transformiert, ein Dialog zwischen Innovatoren, Unternehmen, Akademikern und der Gesellschaft stattfinden muss. Denn mit dem Wandel müssen auch gemeinsam neue Regeln gemacht und akzeptiert werden. Aber ich persönlich glaube an die KI. Nicht, weil ich für eine IT-Firma arbeite, sondern weil ich den Fortschritt der letzten Jahre beobachte. Wir können heute mit einem daten-gestützten Modell das Ergebnis einer chemischen Reaktion mit 92 Prozent Genauigkeit voraussagen. Das ist ein sehr komplexer, wissenschaftlicher Prozess – und wir lösen ihn heute dank Datenmodellen. Ich weiss, dass die Technologie bereit ist, und dass sie uns helfen kann, Dinge besser zu machen, und unsere Fähigkeiten zu erweitern. Das gilt für blinde Menschen ebenso wie für ältere Menschen oder Leute mit körperlichen Behinderungen. Technologie wird in diesen Bereichen sehr viel helfen. Und ich hoffe, dass es baldmöglichst passiert, auch wenn es schwierig ist.

Ein anderer oft diskutierter Bereich ist die Gesundheitsbranche.

Ja, Healthcare ist ein super-komplexes Feld, in welchem riesige Mengen Daten produziert werden. Derzeit werden Entscheidungen aber nur aufgrund sehr weniger Daten getroffen. KI kann hier den Ärzten helfen, bessere Entscheidungen aufgrund einer breiteren Datengrundlage zu fällen. Wir haben eine Spezielle Arbeitseinheit "Watson Health", die erst kürzlich einen Algorithmus für die Onkologie entwickelte. Wir erforschen derzeit auch, wie Bilderkennung in der Pathologie helfen kann, akkuratere und schnellere Entscheidungen zu treffen. Und in der Telemedizin entwickeln mir einen Algorithmus, der eine erste Einschätzung der Patienten automatisch vornimmt. Dabei wollen wir keinesfalls die Ärzte ersetzen, wollen sie aber unterstützen. Ein Algorithmus ist akkurater und verlässlicher als ein Mensch, und wird auch nicht müde.

Stimmt es, dass KI auch für die Landwirtschaft Chancen bringt?

Auf jeden Fall. Die Aufgabe ist ja, Felder zu bewässern und allenfalls mit Pestiziden zu behandeln. Heute geschieht das reaktiv und homogen: Alle X Tage wird bewässert, Pestizide versprüht man zu Beginn der Saison, und meistens behandeln wir das ganze Feld pauschal. Bei IBM Research kombinieren wir nun Luftaufnahmen der Felder mit Daten zu Temperatur und Feuchtigkeit. Mit all diesen Elementen lässt sich sehr genau entscheiden, wann der richtige Zeitpunkt zur Bewässerung ist, sowie wann und ob man Schädlinge bekämpfen muss. Langfristig wird Landwirtschaft damit nachhaltiger, spart Wasser, Pestizide und Arbeitsaufwand.

Wenn wir von Veränderungen sprechen, ist auch immer Nachhaltigkeit ein Thema. Kann uns KI hier etwas bieten?

Künstliche Intelligenz wird nicht nur in der Business-Welt vieles leisten, sondern auch dazu beitragen, Probleme unserer Gesellschaft nachhaltig zu lösen. Wenn wir nachhaltiges Wachstum wollen, müssen wir alte Probleme in einer neuen, ganzheitlichen Weise anpacken. Probleme lassen sich nicht als Silos nachhaltig lösen. Vielmehr werden dadurch viele neue Probleme geschaffen. Ich glaube, dass uns KI dabei helfen wird, wirkliches, nachhaltiges Wachstum zu erleben.

Aus welchen Bereichen sollten wir KI heraushalten?

KI hilft uns, bessere Entscheidungen zu treffen – in jedem Beruf und jedem Business; und das liegt daran, dass KI mehr Wissen verarbeiten kann. Es geht aber immer darum, dass Menschen und Maschinen zusammenarbeiten. Wenn ich einen Menschen, der eine Entscheidung fällen muss, mit mehr objektivem Wissen versorge, ist das für mich immer gut, egal worum es geht. Umgekehrt gesprochen finde ich, dass es schlecht wäre, die Quelle objektiven Wissens von irgendwem fernzuhalten. Aber mir ist dieser Grundsatz wichtig, dass es immer um den Menschen plus die Maschine gehen muss. Es sollte nie die Maschine alleine sein. Maschinen werden nie Entscheidungen für Menschen treffen, es werden immer auch Menschen involviert sein.

Kritiker warnen vor zu kompetenter KI und sagen, wir verstehen sie zu wenig. Was sagen Sie denen?

Bei der Frage würde ich zunächst klären wollen, was gemeint ist mit: "Wir verstehen KI zu wenig". Verstehen ist ein sehr menschliches Konzept, kein maschinelles. Die Maschine kann eine grosse Menge Daten und Informationen zusammenbringen. Verstehen geht einen Schritt darüber hinaus.

Haben Sie weitere wichtige Grundsätze?

Wir entschieden uns zum Beispiel dafür, KI zu entwickeln, um die Menschen zu bereichern, zu augmentieren, und nicht, um sie zu ersetzen. Das ist eine sehr schwerwiegende Entscheidung. Sie liesse sich auch anders fällen. Aber wir denken, wir sollten so handeln, denn wir glauben, dass genau hier der Wert von KI ist. Künstliche Intelligenz sollte meine Fähigkeiten erweitern, und nicht etwas tun, was ich selber bereits kann.

Wagen Sie noch einen persönlichen Ausblick? Wo stehen Sie in zehn Jahren?

Ich bin immer getrieben von Herausforderungen. Und die Herausforderung, die mich zurzeit antreibt, ist die, den Einfluss des wundervollen Ortes, an dem ich arbeiten darf, weiter zu vergrössern. Die Mitarbeiter hier werden uns als IBM und der ganzen Welt helfen, die KI gerade für kommerzielle Anwendungen voranzubringen. Es wird sich auf alle auswirken. Wir gehen durch diese Revolution. Und ich will helfen, dass sie Realität wird.