Nicht existierende Gesichter sollen Gesichtserkennungs-Tools trainieren

Das Idiap-Institut in Martigny führt ein neues Forschungsprojekt zur Entwicklung einer unvoreingenommenen künstlichen Intelligenz (KI) zur Gesichtserkennung durch. Derartige Algorithmen weisen teilweise noch immer krasse Mängel auf – vor allem wenn es um die Identifizierung von Schwarzen Menschen geht. Dies zeigte unlängst etwa eine KI von Facebook sehr deutlich, wie Sie hier nachlesen können.

Der Grund für diese Voreingenommenheit liegt darin, dass diese Modelle oft mit nicht repräsentativen Datenbanken trainiert werden. Die Erstellung repräsentativer Fotoverzeichnisse von Gesichtern wirft jedoch zahlreiche ethische und wissenschaftliche Probleme auf. Die verfügbaren Bilder "sind selten repräsentativ für die Vielfalt der Bevölkerung, und wenn sie es sind, ist es oft unmöglich, sie unter Einhaltung der Datenschutzbestimmungen für ein anderes Forschungsprojekt zu verwenden", sagt Sébastien Marcel, Leiter der Forschungsgruppe für Datenschutz und biometrische Sicherheit am Idiap.

Synthetische Gesichter für ein realistischeres Bild

Das Forschungsprojekt mit dem Namen SAFER wird von der Hasler Stiftung finanziert und in Zusammenarbeit mit der Universität Zürich durchgeführt. Das Ziel des Projekts: repräsentative Datenbanken mit synthetischen Gesichtern erstellen.

Um diese unvoreingenommenen Datenbanken zu erstellen, entwickeln die Forschenden Tools zur Erzeugung synthetischer Gesichter – in der Hoffnung, dass diese ausreichend repräsentativ sind, um die Realität abzubilden. Für die Vorbereitungsarbeiten wurde eine Kombination aus Open-Source- und selbstentwickelten Tools verwendet", sagt Sébastien Marcel auf Anfrage.

Die Studenten des Instituts in Martigny beschrifteten mehrere Millionen Bilder, um Metadaten für die Entwicklung von Gesichtserkennungsalgorithmen zu generieren oder die Verzerrung bestehender Modelle zu korrigieren. Die Studenten des Instituts in Martigny beschrifteten mehrere Millionen Bilder, um Metadaten für die Entwicklung von Gesichtserkennungsalgorithmen zu generieren oder die Verzerrung bestehender Modelle zu korrigieren.

Ausreichende Variation ist entscheidend

"Anders als bei der herkömmlichen Datenerfassung können wir überprüfen, ob die erzeugten Bilddatenbanken hinsichtlich des Geschlechts, des Alters oder der Herkunft der dargestellten Person ausgewogen sind", sagt der Leiter der Forschungsgruppe weiter.

Einige Herausforderungen seien besonders hervorzuheben: So seien etwa die synthetischen Bilder zwar realistisch, aber fast zu sauber. Für jede künstliche Identität müssen ausreichende Variationen in Bezug auf Gesichtsausdruck, Pose, Licht und so weiter erzeugt werden können.

Das SAFER-Projekt ist auf drei Jahre angelegt und hat auch schon einen Partner aus der Privatwirtschaft: SICPA. Die Firma mit Sitz in der Waadtländer Gemeinde Prilly bietet Sicherheitsdruckfarben und Sicherheitslösungen beispielsweise für die Herstellung von Banknoten an. SICPA soll die von den Forschenden entwickelten Systeme und Datenbanken testen und bewerten. So soll zudem sichergestellt werden, dass die Forschungsergebnisse auch in der Praxis anwendbar sind.

Ein anderes Forschungsteam von der Blavatnik School of Computer Science in Tel Aviv arbeitet an einem vergleichbarem Projekt. Allerdings geht das Team in eine ganz andere Richtung. Die Forschenden erzeugen synthetische Gesichter, um damit biometrische Systeme auszuhebeln. Mit nur neun Gesichtern knackte das Team einen Grossteil der Gesichtserkennungssysteme, wie Sie hier nachlesen können (Blogbeitrag "Neun Gesichter, um (fast) alles zu entschlüsseln" vom 23.08.2021).