ETH-Student entlarvt diskriminierenden Twitter-Algorithmus
Ein Student der EPFL hat Diskriminierungen in einem Twitter-Algorithmus festgestellt. Dafür erhielt er im Rahmen eines Wettbewerbs 3500 US-Dollar von der Social-Media-Plattform.

Twitter hat im Rahmen eines Wettbewerbs die stärksten Bevorzugungen und Benachteiligungen in seinem Bildbeschneidungsprogramm gesucht. Es gewann Bogdan Kulynych, Student an der Eidgenössischen Technischen Hochschule in Lausanne (EPFL). Wie "Heise" berichtet, fand er heraus, dass der Algorithmus eine Vorliebe für junge, hellhäutige Gesichter mit stereotypisch femininen Gesichtszügen hat. Ausserdem würde das Programm lateinische Schriftzeichen arabischen vorziehen.
Mit dem Wettbewerb wollte die Social-Media-Plattform laut Heise Problematiken der Technik offenlegen. Angelehnt habe Twitter die Preisausschreibung an die Bug-Bounty-Programme, die Geld für gefundene und gemeldete Sicherheitslücken in Software zahlen.
Um gezielt nach diskriminierenden Präferenzen des Algorithmus suchen zu können, stellte Twitter den Teilnehmenden den Quellcode zur Verfügung. Der Algorithmus wurde bereits aus dem Verkehr gezogen, nachdem Kritik zur KI der Bildbeschenidung laut geworden war.
Die Ergebnisse, die Bogdan Kulynych präsentierte, sind gemäss Heise eindeutig. Der Algorithmus benachteilige nicht nur ältere, dunkelhäutige und männliche Gesichtszüge, sondern auch Personen, die Kopftücher trügen, weisse Haare oder Behinderungen hätten. Twitter habe den Algorithmus bereits entfernt mit dem Hinweis, dass die Wahl des Bildausschnitts besser bei den Nutzenden aufgehoben sei, schreibt Heise.
Apropos: Twitter will nicht nur Diskriminierung vorbeugen, sondern auch gezielt gegen Fake News vorgehen. Wie dies mit Hilfe von AP und Reuters gelingen soll, lesen Sie hier.

KI-Integration bleibt für Entwicklungsleiter herausfordernd

Warum Ihre Daten besser in der Schweiz bleiben sollten

Sunrise sichert Finanzierung durch Anleihe

Europol und Microsoft zerschlagen Lumma Stealer

OpenAI erweitert Responses API mit neuen Funktionen

Quiz-Apps und Spaghettitürme in der Hauptstadt

Captain Kirk besiegt Computer mithilfe von Logik

Broadcoms VMware-Lizenzmodell steht in der Kritik

Warum veraltete Software zur Achillesferse der IT-Sicherheit wird
