Update: Europäische Datenschützer stellen sich gegen geplante "Chatkontrolle"

Update vom 8.8.2022: Das von der EU-Kommission vorgestellte Gesetz zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern stösst weiterhin auf Kritik. In einer gemeinsamen Mitteilung äussern sich nun auch der Europäische Datenschutzausschuss (EDSA) und der Europäische Datenschutzbeauftragte (EDSB) zum Gesetzesentwurf. In seiner jetzigen Form berge das Gesetz möglicherweise mehr Risiken für Einzelpersonen und damit für die Gesellschaft im Allgemeinen als für die verfolgten Straftäter, schreiben die Datenschützer.

"Es besteht kein Zweifel daran, dass sexueller Missbrauch von Kindern ein äusserst abscheuliches Verbrechen ist, das rasches und wirksames Handeln erfordert", lässt sich Ventsislav Karadjov, stellvertretender Vorsitzender des EDSA, zitieren. "Aber der Vorschlag in seiner jetzigen Form weist einige schwerwiegende Mängel auf. Ihm fehlt es in vielen Punkten an Rechtssicherheit, und er enthält vage Begriffe, die zu unterschiedlichen Umsetzungen in der EU führen können, insbesondere in Bezug auf Ermittlungsanordnungen." In der aktuell vorgeschlagenen Form könnten diese Anordnungen denjenigen, die sie schützen sollen, sogar schaden und dazu führen, dass Kinder abgehört und überwacht werden könnten.

Weiter kritisieren die Datenschützer die vorgeschlagenen Technologien zur Erkennung illegaler Inhalte. Die beispielsweise mit künstlicher Intelligenz durchgeführten Scans können zu Fehlern fühlen und stellten einen drastischen Eingriff in die Privatsphäre jedes einzelnen dar.

"Massnahmen, die es öffentlichen Behörden ermöglichen, generell Zugang zum Inhalt der Kommunikation zu erhalten, berühren den Kern des Rechts auf Privatsphäre. Selbst wenn die eingesetzte Technologie auf die Verwendung von Indikatoren beschränkt ist, sind die negativen Auswirkungen einer allgemeinen Überwachung der Text- und Audiokommunikation von Einzelpersonen so gravierend, dass sie nicht durch die EU-Grundrechtecharta gerechtfertigt werden können", fasst der europäische Datenschutzbeauftragte Wojciech Wiewiórowski in der Mitteilung zusammen.

Originalmeldung vom 12.5.2022: "Chatkontrolle": EU bringt umstrittenes Überwachungsgesetz auf den Weg. Es ist ein löbliches Ziel, welches die EU mit dem am 11. Mai vorgestellten Gesetzesentwurf verfolgt: Man wolle die Bemühungen zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern verstärken, schreibt die Europäische Kommission in der Mitteilung. "Mit den derzeitigen Regelungen, die auf eine freiwillige Aufdeckung und Meldung durch die Unternehmen setzen, würden Kinder nachweislich nicht ausreichend geschützt. Und selbst die bestehenden Möglichkeiten zur Aufdeckung entsprechender Inhalte werden nicht mehr zur Verfügung stehen, wenn die gegenwärtige Übergangslösung ausläuft."

Nun will die Kommission die Anbieter stärker in die Pflicht nehmen. Sie müssen Material über sexuellen Kindesmissbrauch in ihren Diensten aufdecken, melden und entfernen. Ausserdem müssen sie das Risiko, dass ihre Dienste missbraucht werden, bewerten und mindern. Die hierzu getroffenen Massnahmen müssten mit Blick auf das Risiko verhältnismässig sein und seien an robuste Bedingungen und Schutzmechanismen gekoppelt.

Datenschützer sind entsetzt

Wie genau die Anbieter von Mail- oder Messengerdiensten die Inhalte auf verdächtiges Material hin durchforsten, bleibt ihnen überlassen. Da viele populäre Messenger die verschickten Nachrichten so verschlüsseln, dass nur Sender und Empfänger sie lesen können, müsste der Scan vor dem Versenden auf dem Gerät des Versenders erfolgen, analysiert "Golem". Ein solches "Client-Side-Scanning" (CSS) wollte vergangenes Jahr der US-Konzern Apple einführen, um seinerseits beim Aufspüren kinderpornografischer Inhalte mitzuhelfen. Das Vorhaben wurde von Datenschützern und Menschenrechtsaktivisten kritisiert, so dass Apple das Projekt auf Eis legte, wie Sie hier lesen können.

Nun stösst auch der Gesetzesentwurf der EU-Kommission auf Kritik. CSS schaffe von Haus aus ernsthafte Sicherheits- und Datenschutzrisiken für die gesamte Gesellschaft, schreibt "Watson" unter Berufung auf eine Studie mehrerer Wissenschafter und Wissenschaftlerinnen. Zu ihnen gehören etwa der Kryptologie-Experte Bruce Schneier und die EPFL-Professorin Carmela Troncoso. Konkret könne CSS fehlschlagen, umgangen oder missbraucht werden.

Kritische Stimmen zur "Chatkontrolle", wie das Gesetz oft genannt wird, kommen auch aus der Schweiz: "Der Fokus der Kommission auf die vermeintliche technische Lösung des komplexen sozialen Problems des Kindesmissbrauchs und der Verbreitung solcher Darstellungen ist im Ansatz verfehlt", schreibt etwa der Verein Digitale Gesellschaft. "Die Verantwortung auf die Kommunikationsdiensteanbieter abzuwälzen, sämtliche Nutzerinnen und Nutzer unter Generalverdacht zu stellen und das Fernmeldegeheimnis auszuhebeln, kann in einem Rechtsstaat nicht die Alternative zu verantwortungsbewusster und zielgerichteter Polizeiarbeit sein."

Schweizer Politik will Antworten

Der Gesetzesvorschlag der EU-Kommission kommt als nächstes vor das europäische Parlament und den Rat, heisst es in der Mitteilung. Man werde das Gesetzgebungsverfahren kritisch begleiten, schreibt die Digitale Gesellschaft dazu.

Auch die Schweizer Regierung wird sich mit der "Chatkontrolle" befassen müssen. Judith Bellaiche, grünliberale Nationalrätin und Geschäftsführerin des Wirtschaftsverbandes Swico, reichte dazu eine Interpellation mit Fragen an den Bundesrat ein. "So legitim der Zweck erscheinen mag, so fundamental sind die Fragen im Umgang mit unserer Privatsphäre, unserem Datenschutz und letztlich unseren Grundrechten, die das Mittel aufwirft", schreibt Bellaiche. Vom Bundesrat wissen will sie unter anderem, inwiefern Schweizer Bürgerinnen und Bürger, aber auch hiesige Anbieter von Messengerdiensten vom EU-Gesetz betroffen wären. Auch die Frage, ob die "Chatkontrolle" "mit dem Schweizerischen Datenschutzverständnis und insbesondere mit unseren demokratischen Grundrechten vereinbar" sei, steht auf der Liste.

Judith Bellaiche, grünliberale Nationalrätin und Geschäftsführerin des Wirtschaftsverbandes Swico. (Source: Thomas Entzeroth)

In den vergangenen Monaten hat die EU gleich mehrere Gesetze zur Regulierung digitaler Dienste beschlossen. Noch vor Ende Jahr soll der Digital Market Act in Kraft treten, der Innovation und Wettbewerb fördern soll. Der Digital Service Act wiederum soll für eine strengere Aufsicht von Onlineplattformen und mehr Verbraucherschutz sorgen.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.