ETH-Student entlarvt diskriminierenden Twitter-Algorithmus
Ein Student der EPFL hat Diskriminierungen in einem Twitter-Algorithmus festgestellt. Dafür erhielt er im Rahmen eines Wettbewerbs 3500 US-Dollar von der Social-Media-Plattform.
Twitter hat im Rahmen eines Wettbewerbs die stärksten Bevorzugungen und Benachteiligungen in seinem Bildbeschneidungsprogramm gesucht. Es gewann Bogdan Kulynych, Student an der Eidgenössischen Technischen Hochschule in Lausanne (EPFL). Wie "Heise" berichtet, fand er heraus, dass der Algorithmus eine Vorliebe für junge, hellhäutige Gesichter mit stereotypisch femininen Gesichtszügen hat. Ausserdem würde das Programm lateinische Schriftzeichen arabischen vorziehen.
Mit dem Wettbewerb wollte die Social-Media-Plattform laut Heise Problematiken der Technik offenlegen. Angelehnt habe Twitter die Preisausschreibung an die Bug-Bounty-Programme, die Geld für gefundene und gemeldete Sicherheitslücken in Software zahlen.
Um gezielt nach diskriminierenden Präferenzen des Algorithmus suchen zu können, stellte Twitter den Teilnehmenden den Quellcode zur Verfügung. Der Algorithmus wurde bereits aus dem Verkehr gezogen, nachdem Kritik zur KI der Bildbeschenidung laut geworden war.
Die Ergebnisse, die Bogdan Kulynych präsentierte, sind gemäss Heise eindeutig. Der Algorithmus benachteilige nicht nur ältere, dunkelhäutige und männliche Gesichtszüge, sondern auch Personen, die Kopftücher trügen, weisse Haare oder Behinderungen hätten. Twitter habe den Algorithmus bereits entfernt mit dem Hinweis, dass die Wahl des Bildausschnitts besser bei den Nutzenden aufgehoben sei, schreibt Heise.
Apropos: Twitter will nicht nur Diskriminierung vorbeugen, sondern auch gezielt gegen Fake News vorgehen. Wie dies mit Hilfe von AP und Reuters gelingen soll, lesen Sie hier.
Wie die Schweiz ihre KI-Infrastruktur besser koordinieren kann
iRIX: Unabhängig seit 1999. Erfahren in Software, Daten und Energie.
"Entscheidend ist, dass bei Bedarf ein Mensch übernehmen kann"
Digitale Souveränität heisst, handlungsfähig zu bleiben
Pandoras Büchse ist geöffnet: Die Schwachstellenflut der KI-Ära
SOWARIS setzt auf Schweizer Cloud: Virtual Datacenter als IT-Fundament
Google findet vollständig automatisierte Cyberangriffskampagne
Kleine Nager hamstern Attitüde
Falscher Klick – Passwort weg