Wohlwollende Killer-KIs, redselige digitale Assistenten und Cyborgs

"Stellen Sie sich vor, es gebe eine künstliche Intelligenz (KI), die der menschlichen überlegen ist", sagte Thomas Metzinger, Philosoph und Professor an der Johannes-Gutenberg-Universität in Mainz. Der KI-Experte forderte die Besucher der "A.I. everywhere"-Konferenz von Swiss Re zu einem Gedankenexperiment auf.

Die Schweizer Rückversicherungsgesellschaft stellte die Konferenz zusammen mit dem Gottlieb Duttweiler Institut (GDI) und IBM Research auf die Beine. Unter dem Motto "Wie digitale Assistenten unser Leben verändern" behandelte der Anlass alles von Chatbots über KI-Zukunftsvisionen bis hin zu Cyborgs.

Das Baan-Szenario – Benevolent Artificial Anti-Natalism

Das Gedankenexperiment von Professor Metzinger ist so eine Zukunftsvision. Die Menschheit hat eine wohlwollende superintelligente KI erschaffen. Die KI kennt und versteht selbst die tiefsten und verborgenen Eigenschaften des Menschen.

So weiss sie etwa, dass der Mensch aufgrund seiner Voreingenommenheit und evolutionären Mechanismen der Selbsttäuschung oftmals nicht rational denken kann. Die KI entscheidet, dass der Mensch nicht fähig ist, selbst in seinem besten Interesse zu handeln.

Thomas Metzinger, Philosoph und Professor an der Johannes-Gutenberg-Universität in Mainz. (Source: Netzmedien)

Die KI erkennt auch das Streben nach Glück. Aber sie sieht, dass Menschen nie ein vollständig glückliches Leben führen und auch nur selten eine neutrale Lebensbilanz erzielen. Sie konstatiert, dass die Verminderung von Leiden sogar noch wichtiger als das Streben nach Glück ist.

Wer nicht existiert, leidet auch nicht. Also beschliesst die KI wohlwollend – im besten Interesse der Menschheit – zu handeln: Sie beendet das Leiden der biologischen Existenz. Eine ethisch und altruistisch motivierte Tat, hält Metzinger fest.

Das Szenario sei durchaus denkbar. Wann und ob es zur Realität wird, steht aber noch in den Sternen. Dennoch müsse man sich schon heute über das Zusammenspiel von Ethik und KI Gedanken machen.

Experten und Entwickler fordern mehr Regulierung

Die Welt befinde sich aktuell inmitten eines KI-Rüstungswettlaufs. Europa steckt zwischen den Fronten und kann in diesem Wettrüsten nicht mithalten. Das müssten wir aber auch nicht. Stattdessen könnte die hiesige Forschung etwa eine andere Rolle einnehmen und ethische Grundgerüste für KI und KI-Entwicklungen kreieren. "Wenn wir aber strikte Gesetze einführen, wandert die KI-Forschung einfach in Länder ab, die das Thema nicht so stark regulieren", sagte Metzinger.

Ein Bisschen mehr Regulierung dürfte es aber schon sein, wie die anderen Experten forderten. "Brauchen wir Regulierungen? Ja, eigentlich schon gestern!", sagte etwa Costas Bekas, Μanager der Cognitive Computing Group von IBM Research in Zürich.

Moderator Florian Inhauser zusammen mit (v.l.) Costas Bekas, IBM Research, David Bosshart, GDI, und Rainer Baumann, Swiss Re. (Source: Netzmedien)

"Da diese Debatte in der Öffentlichkeit nicht geführt wird, müssen wir Vermutungen darüber anstellen, was sozial akzeptabel ist und was nicht", ergänzte Rainer Baumann, Head Group Digital & Information Service bei Swiss Re. "Und das würde ich lieber nicht machen."

Es braucht aber nicht nur Regeln für die KI, sondern auch für den Menschen. "Der, der das Programm schreibt, trägt auch die soziale Verantwortung", sagte David Bosshart, CEO des GDI. Regulierungen müssten aber auch die menschliche Voreingenommenheit miteinbeziehen.

Digitale Assistenten haben mehr zu sagen

Noch ist es dafür nicht zu spät. Denn die künstliche Intelligenz, die wir nun haben, sei eigentlich eine dumme Intelligenz, sagte Baumann. Was als KI bezeichnet wird, sind lediglich statistische Analysen. Ein Übersetzungsalgorithmus versuche nicht etwa, einen Text zu verstehen. Stattdessen vergleiche der Algorithmus den Text mit Millionen von Beispielübersetzungen aus der Datenbank und wählt diejenige aus, die am besten passt. Von einer superintelligenten KI, die selbstständig ethisch agiert, sind wir noch weit entfernt.

Aktuell bewegt sich die Technologie eher auf der Ebene von digitalen Assistenten - Technologien wie Amazons Alexa, der Google Assistant oder IBMs Watson Assistant. Alle drei zeigten am Anlass, was sie drauf haben.

Die Entwickler arbeiten daran, diesen Assistenten immer mehr Gespür für Kontext zu geben. So sollen die Reaktionen menschenähnlicher werden. Wenn man etwa früher bei Google "Hello" eintippte, fand die Suchmaschine das Lied von Adele. Heute jedoch antwortet Google mit "Hi ?". Auch Amazons Alexa zeigt ein vergleichbares Verhalten dank dem neuen Follow-up-Modus. So reagiert Alexa etwa, wenn man "Danke" oder "Gute Nacht" sagt.

KI vernichtet, ändert und erschafft Jobs

Solche Technologien werden Jobs vernichten, räumte Nick Jennings, Professor für KI am Imperial College in London, ein. "Aber das ist die unausweichliche Konsequenz, wenn man Werkzeuge kreiert. Und eine KI ist genau das: ein Werkzeug."

Wichtiger ist aber, dass solche Technologien bestehende Jobs weiterentwickeln, indem sie die Kooperation von Mensch und Technologie vorantreiben. Der Professor verwies auf eine Studie aus dem Gesundheitsbereich.

Nick Jennings, Professor für KI am Imperial College in London. (Source: Netzmedien)

Menschliche Experten hatten bei der Erkennung von Brustkrebs in der Studie eine Fehlerquote von 3,5 Prozent. Die KI lag in nur 2,9 Prozent der Fälle daneben. Wenn man jedoch beide zusammenführt, einen menschlichen Experten der mithilfe von KI die Fälle analysiert, sank die Fehlerquote auf lediglich 0,5 Prozent.

Die KI-Entwicklung kreiere auch bereits neue Jobs, die es zuvor nicht gab. So sah Jennings etwa bereits Stellenangebote für KI-Trainer. Dabei gehe es darum, eine Voreingenommenheit zu verhindern, die aufgrund der Datensätze aufkommen könnte.

Technologie wider die Limitationen des Menschen

Neben künstlichen Intelligenzen bot die Konferenz auch künstlichen Menschen Platz - oder zumindest einem Menschen mit einem künstlichen Sinn. Dabei handelte es sich um Neil Harbisson. Harbisson gründete 2010 die Cyborg Foundation. Eine internationale Stiftung, die Menschen dabei unterstützt, Cyborgs zu werden. Also ihre biologischen Einschränkungen mit technischen Mitteln zu sprengen.

Harbisson wurde farbenblind geboren und sieht die Welt in Graustufen. Vor einigen Jahren lies er sich eine künstliche Antenne implantieren, die nun Teil seines Schädels ist. Die Antenne wandelt Farben aufgrund der Lichtfrequenz in Vibrationen um. Harbisson hört also Farben.

"Ich wollte keine Technologie tragen. Ich wollte keine Technologie nutzen. Ich wollte Technologie werden", sagte Harbisson. Kein ethisches Komitee wollte der Operation zustimmen. Deswegen verrät er auch nicht, wer ihm die Antenne implantierte und wo die Operation stattfand.

Sein Farbgehör übersteigt das visuelle Spektrum. Das heisst, er nimmt auch Ultraviolett und Infrarot wahr. "So kriege ich sofort mit, ob die Bewegungsmelder in einer Bank scharf oder nur Attrappen sind", sagte er. Die Antenne ermöglicht ihm auch, sich so zu kleiden, oder seine Wohnung so einzurichten, dass sie gut klingt.

Achtung vor einschleimenden KIs

Mit einem weiteren Gedankenexperiment beendete der deutsche Professor Metzinger seinen Vortrag. Diesmal ging es darum zu verhindern, dass eine superintelligente KI von einem geschlossen System entflieht und ins Internet gelangt.

"Stellen Sie sich vor, Sie seien eine KI und Sie sind in einem Käfig gefangen", sagte Metzinger. "Vor Ihnen stehen drei Kinder - die Erschaffer der KI. Die Kinder halten den Schlüssel zu dem Käfig. Wie würden Sie die Kinder dazu bewegen, Ihnen den Schlüssel zu geben?"

Der Professor blickt mit einem beginnenden Lächeln in die Runde. "Wenn eine KI also beginnt, Ihnen Honig ums Maul zu schmieren, sollten Sie ganz genau aufpassen, was wirklich passiert!"