ETH-Student entlarvt diskriminierenden Twitter-Algorithmus

Twitter hat im Rahmen eines Wettbewerbs die stärksten Bevorzugungen und Benachteiligungen in seinem Bildbeschneidungsprogramm gesucht. Es gewann Bogdan Kulynych, Student an der Eidgenössischen Technischen Hochschule in Lausanne (EPFL). Wie "Heise" berichtet, fand er heraus, dass der Algorithmus eine Vorliebe für junge, hellhäutige Gesichter mit stereotypisch femininen Gesichtszügen hat. Ausserdem würde das Programm lateinische Schriftzeichen arabischen vorziehen.

Mit dem Wettbewerb wollte die Social-Media-Plattform laut Heise Problematiken der Technik offenlegen. Angelehnt habe Twitter die Preisausschreibung an die Bug-Bounty-Programme, die Geld für gefundene und gemeldete Sicherheitslücken in Software zahlen.

Um gezielt nach diskriminierenden Präferenzen des Algorithmus suchen zu können, stellte Twitter den Teilnehmenden den Quellcode zur Verfügung. Der Algorithmus wurde bereits aus dem Verkehr gezogen, nachdem Kritik zur KI der Bildbeschenidung laut geworden war.

Die Ergebnisse, die Bogdan Kulynych präsentierte, sind gemäss Heise eindeutig. Der Algorithmus benachteilige nicht nur ältere, dunkelhäutige und männliche Gesichtszüge, sondern auch Personen, die Kopftücher trügen, weisse Haare oder Behinderungen hätten. Twitter habe den Algorithmus bereits entfernt mit dem Hinweis, dass die Wahl des Bildausschnitts besser bei den Nutzenden aufgehoben sei, schreibt Heise.

Apropos: Twitter will nicht nur Diskriminierung vorbeugen, sondern auch gezielt gegen Fake News vorgehen. Wie dies mit Hilfe von AP und Reuters gelingen soll, lesen Sie hier.