Wie China Rassismus mit künstlicher Intelligenz automatisiert

Wer in der IT-Branche arbeitet, sieht Technologie gerne als ein Mittel, die Möglichkeiten des Menschen zu erweitern. Es gibt jedoch auch eine Schattenseite. Technologie kann genauso gut genutzt werden, die Möglichkeiten eines Menschen einzuschränken.

Ein aktuelles Beispiel aus China etwa zeigt, wie sich auch Rassismus automatisieren lässt. Wie die New York Times berichtet, setzt die chinesische Regierung auf moderne Gesichtserkennungstechnologien und künstlicher Intelligenz (KI), um Uiguren zu erkennen.

Next-Gen Verfolgung

Uiguren sind eine turksprachige, muslimische Minderheit, die mehrheitlich in der westchinesischen Region Xinjiang leben. Insgesamt rund 11 Millionen Menschen. Mit der Begründung, Terrorismus zu bekämpfen, geht die Regierung bereits seit Jahren hart gegen Uiguren vor – unter anderem auch mit Umerziehungslagern.

Die Software greift auf das bereits vorhandene, umfassende Netzwerk an Überwachungskameras zu. Dabei sucht sie spezifisch nach uigurischen Gesichtern. Zu diesem Zweck wurden die Algorithmen mit Bildern von zentralasiatischen Uiguren gefüttert, die sich optisch von den Han-Chinesen unterscheiden – die Mehrheit der chinesischen Bevölkerung. So lernte das System durch Machine Learning, Uiguren von Han-Chinesen zu unterscheiden.

Reifegrad hinkt hinterher

Gemäss dem Bericht werden derartige Technologien in den grossen östlichen Städten wie Hangzhou oder Wenzhou genutzt sowie in der Küstenprovinz Fujian. In der Stadt Sanmenxia seien allein in einem Monat dieses Jahres rund 500'000 Gesichter analysiert worden. Die Bilder werden auf dem System abgespeichert, dass Polizisten diese überprüfen können.

Die Gesichter der Uiguren, die Xinjiang verlassen, werden gespeichert. Wenn sich etwa mehrere Uiguren versammeln, alarmiert das System die Polizei. Die Technologie sei jedoch noch nicht voll ausgereift. So sei die Erkennung nur in 1 von 3 Fällen erfolgreich. Was wohl auch an den veralteten Überwachungskameras liegen dürfte. Dennoch kann die chinesische Regierung so die Infrastruktur ihres sozialen Überwachungsapparats ausbauen.

Expansion im Ausland

Dahinter stecken chinesische KI-Firmen wie Yitu, Megvii, Sensetime, und Cloudwalk. Jede einzelne hat einen Firmenwert von über 1 Milliarde US-Dollar. Yitu wolle nun auch im Ausland expandieren. Dies könnte derartige Technologien auch in die Hände anderer Regierungen bringen, mutmasst die New York Times.

"Ich glaube nicht, dass es übertrieben ist, dies als eine existenzielle Bedrohung für die Demokratie anzusehen", zitiert der Bericht Jonathan Frankle, einen KI-Forscher am Massachusetts Institute of Technology (MIT). "Dies ist eine dringende Krise, in die wir langsam hinein schlafwandeln."

Dass China seine Bürger mittels Videokameras überwacht, ist nicht neu. Lesen Sie im Beitrag 老大哥 is watching you vom 27. April 2018, wie die Regierung Überwachungskameras nutzt, um Bürger für ihr Verhalten zu strafen oder zu belohnen.