Update: 20 KI-Anwendungen sollen künftig verboten sein

Update vom 26. April 2021: Die Europäische Kommission hat den endgültigen Gesetzesentwurf zur Regulierung von Künstlicher Intelligenz vorgelegt. Zwischen der Möglichkeit eines freiwilligen Kennzeichnungssystems und strikten Anforderungen für alle KI-Systeme geht die EU einen Mittelweg und entscheidet sich für einen verhältnismässigen, risikobasierten Ansatz. Jenes Risiko wird dabei durch den Anwendungszweck des jeweiligen Systems bestimmt. Zu viel Regulierung würde laut EU die Innovation bremsen, besonders im Hinblick auf die Position gegenüber der Konkurrenz aus China und den USA, den Marktführern auf diesem Bereich. "Unsere Regeln werden zukunftssicher und innovationsfreundlich sein und dann gelten, wenn es unbedingt notwendig ist: wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen", gibt sich Margrethe Vestager, Vizepräsidentin der Kommission für ein digitales Europa, diplomatisch.

20 Anwendungen mit hohem Risiko

Verboten sind in Zukunft Anwendungen, die als besonders schädlich gelten ("unzumutbares Risiko"). Brüssel nennt als Beispiel die Verwendung bestimmter biometrischer Echtzeit-Identifikationssysteme durch Strafverfolgungsbehörden oder Systeme zur sozialen Bewertung durch Regierungen (ein Projekt dieser Art wird in China durchgeführt). Insgesamt 20 Systeme umfasst die Liste der Hochrisikoanwendungen. In der Geschäftswelt könnte dies die Anwendung von KI im Personalbereich sowie für die Bestimmung der Kreditwürdigkeit oder der Anspruchsberechtigung für Sozialleistungen betreffen.Am anderen Ende des Spektrums gibt es Systeme mit minimalem Risiko, die keinen zusätzlichen gesetzlichen Anforderungen unterliegen. Ihre Anbieter können sich jedoch freiwillig für die Einhaltung von Verhaltenskodizes entscheiden.

Stimmen das Europäische Parlament und die Mitgliedsstaaten dem Gesetzesentwurf zu, könnte dieser auch die Schweiz betreffen - vor allem Unternehmen, die Handelsbeziehungen mit der EU pflegen.

Originalmeldung vom 20.04.2021: EU-Kommission will KI strenger regulieren

Das Verhalten einer ganzen Bevölkerung mithilfe von Technologie analysieren, bewerten und sanktionieren - das ist das Prinzip von Sozialkreditsystemen, wie sie derzeit in China getestet werden. Die Volksrepublik erntet dafür harte Kritik aus dem Westen. Die europäische Kommission möchte nun den Einsatz Künstlicher Intelligenz für solche Systeme verbieten, wie "Netzpolitik" berichtet. Dies soll Teil eines neuen Gesetzesentwurfs sein, den die Kommission am 21. April 2021 abhandeln könnte.

Verbote und Sondergenehmigungen

Das neue Gesetz soll künstliche Intelligenz allgemein strenger regulieren. "Besonders risikoreiche Anwendungsfälle" automatischer Entscheidungssysteme sollten etwa zuerst von den Behörden genehmigt werden, schreibt "Netzpolitik". Der geleakte Entwurf, hier einsehbar, enthält eine Liste an Technologien, die in der EU bald verboten sein sollen. Allerdings sollen viele Anwendungsgebiete auf der Liste unter "besonderen Bedingungen" weiterhin erlaubt sein. Diese umfasse neben automatischen Entscheidungssystemen auch biometrische Videoüberwachung. selbstfahrende Autos oder den Einsatz von KI bei medizinischen Geräten. In der Schweiz wird indes bereits intensiv am Einsatz von KI in der Medizin geforscht - die Universität Bern eröffnete im März 2021 ein eigenes Zentrum dafür, wie Sie hier lesen können.

Gesetzesentwurf spaltet die Gemüter

Der Vorschlag der Kommission enthält auch eine Einstufung für Technologien mit "niedrigem Risiko". Dazu sollen etwa Bots oder Deepfakes zählen. Nicht Teil der Liste sind Kampfroboter und andere militärische Anwendungen von Künstlicher Intelligenz - diese sollten aus Sicht der Kommission "nicht nach den Binnenmarktregeln der EU reguliert werden". Für die Prüfung des neuen Gesetzes sollen die Mitgliedsstaaten verantwortlich sein. Aus diesen kommen gemischte Meinungen zum neuen Gesetzesentwurf. "Wenn die EU erfolgreich internationale Massstäbe für KI setzen will, muss sich die Kommission vor Überregulierung hüten", wird etwa die deutsche FDP-Europaabgeordnete Svenja Hahn vom "Handelsblatt" zitiert. Ihrer Landsfrau Alexandra Geese von den Grünen ist der Entwurf hingegen gar nicht scharf genug. Systeme zur automatischen Gesichtserkennung sollten etwa gänzlich verboten werden, alles andere sei "ein Schlag ins Gesicht der Zivilgesellschaft".

Die Schweiz erarbeitete Ende 2020 Leitlinien im Umgang mit künstlicher Intelligenz. "Besondere Bedeutung kommt beim Einsatz von KI dem Schutz der Grundrechte zu. In die Gestaltung und Anwendung von KI müssen auch grundrechtliche und ethische Überlegungen einfliessen", heisst es darin. Datenschutz und Privatsphäre, aber auch der Schutz vor Diskriminierung sowie Transparenz und Sicherheit werden ebenfalls hervorgehoben. Der Bund erwähnt keine konkreten Technologien, die erlaubt oder verboten sind, betont jedoch einen "grundsätzlich technologieneutralen Ansatz". Die Strategie "Digitale Schweiz" und die Strategie Digitalaussenpolitik 2021–2024 sollen als Referenzrahmen für weitere Entwicklungen der Leitlinien dienen.