Europäisches Parlament lehnt Massenüberwachung durch KI ab

Beim Einsatz von KI in der Strafverfolgung muss die Technologie von Menschen überwacht werden. Das haben die Abgeordneten das Europäische Parlaments in einer Abstimmung entschieden. Wie es in einer Mitteilung heisst, weisen die Abgeordneten auf das Risiko algorithmischer Voreingenommenheit hin. Zudem betont das Europäische Parlament die Notwendigkeit menschlicher Aufsicht und rechtlicher Kontrollen. Der endgültige Entscheid in der Strafverfolgung muss laut Mitteilung immer von Menschen getroffen werden.

In der Mitteilung heisst es, dass viele der derzeit verwendeten algorithmusgesteuerten Identifizierungstechnologien häufig falsch liegen. Dadurch bestünde die Gefahr, dass Personen aufgrund verschiedener Faktoren diskriminiert würden, sei es basierend auf ihrer ethnischen Herkunft, der sexuellen Orientierung, des Geschlechts oder des Alters. Wie diskriminierend KI sein kann, zeigte bereits das Beispiel der Facebook-KI. Dabei verwechselte die Technologie schwarze Menschen mit Affen. Das Europäische Parlament fordere Transparenz der Algorithmen. Die Behörden sollten nach Möglichkeit Open-Source-Software verwenden.

Verbot von Social-Scoring-Systemen

Um den Schutz der Privatsphäre zu gewährleisten, fordert das Europäische Parlament zudem ein dauerhaftes Verbot von Technologie, welche Personen im öffentlichen Raum automatisch erkennt und erfasst. Bürgerinnen und Bürger sollten nur dann überwacht werden, wenn sie einer Straftat verdächtigt würden. Weiter fordern die Abgeordneten laut Mitteilung ein Verbot von Social-Scoring-Systemen. Diese Systeme versuchen, die Vertrauenswürdigkeit von Personen "auf der Grundlage ihres Verhaltens oder ihrer Persönlichkeit zu bewerten".

Des Weiteren fordern die Abgeordneten die Kommission dazu auf, Vertragsverletzungsverfahren gegen Mitgliedstaaten einzuleiten, sollte dies notwendig sein. "Wir sprechen uns klar gegen eine vorausschauende Polizeiarbeit auf der Grundlage von KI sowie gegen jede Verarbeitung biometrischer Daten aus, die zu einer Massenüberwachung führt", sagt Petar Vitanov, Berichterstatter des Europäischen Parlaments.

Dass KI auch praktisch sein kann, beweisen Japan und Singapur. Dort gibt es an einigen Bahnhöfen und Metrostationen den Coffee-to-go jetzt vom Roboter-Barista. Mehr dazu lesen Sie hier.