Online-Missbrauch: EU-Gesetzesentwurf stößt auf Widerstand

Könnten Bemühungen zur Bekämpfung sexueller Gewalt an Kindern den Weg ebnen für eine nie dagewesene Überwachung in der Europäischen Union? 

Diese Frage steht im Mittelpunkt einer hitzigen Debatte über einen Gesetzesentwurf, den EU-Minister während eines Treffens am 10. Oktober verabschieden könnten. 

Das Gesetz würde Dienste wie WhatsApp, iMessage oder Signal dazu verpflichten, in der EU verschickte Nachrichten automatisch auf missbräuchliche Inhalte zu scannen und verdächtige Inhalte an Behörden zu melden. 

Befürworter argumentieren, dies sei dringend notwendig, um einer Zunahme von Missbrauchsfällen entgegenzuwirken und die schwächsten Mitglieder der Gesellschaft zu schützen. 

Doch Kritiker schlagen Alarm und bezeichnen die vorgeschlagenen Maßnahmen als "Chatkontrolle": Diese seien nicht nur ineffizient und fehleranfällig, sondern würden auch massive Eingriffe in die Privatsphäre von Menschen in der EU bedeuten. "Natürlich sind wir uns als Gesellschaft einig, dass es wichtig ist, solche Inhalte zu bekämpfen", sagt Anja Lehmann, Professorin für Cybersicherheit am Hasso-Plattner-Institut in Potsdam. "Aber es gibt keine verlässlichen Nachweise, dass die vorgeschlagenen Maßnahmen dies effektiv tun würden."

Lehmann ist eine von 344 Forschenden aus 34 Ländern, die in einem offenen Brief davor warnen, dass das Gesetz effektiv das Ende von sicher verschlüsselter Online-Kommunikation bedeuten würde und den Weg für eine Massenüberwachung ebnen könnte. "Die Bekämpfung solcher Straftaten scheint wieder einmal als Vorwand für einen Angriff auf die sichere Verschlüsselung von Online-Kommunikation zu dienen", so Lehmann gegenüber der DW.

Verfassungsrechtliche Bedenken

Rechtsexperten teilen ihre Bedenken. "Dieses Gesetz würde einen massiven Grundrechtseingriff darstellen, das ist unter Juristen unumstritten", sagt André Haug, Vizepräsident der Bundesrechtsanwaltskammer, die für rund 166.000 Anwälte in Deutschland spricht.

Das geplante Gesetz ist seit seiner ersten Vorstellung im Jahr 2022 hochumstritten. Zwei frühere Entwürfe wurden von Gegnern aufgrund von Datenschutzbedenken blockiert. Der Jüngste, ausgearbeitet von der ungarischen EU-Ratspräsidentschaft, enthalte zwar kleinere Änderungen, "aber er beseitigt nicht das grundsätzliche Problem", sagte Haug im Gespräch mir der DW.

Nach wie vor würde das Gesetz in die Rechte auf Schutz der Kommunikation und personenbezogener Daten, verankert in Artikel 7 und 8 der Grundrechte-Charta der EU, eingreifen. "Das betrifft auch die besonders schützenswerten Bereiche der Kommunikation zwischen Anwalt und Mandant oder auch zwischen Arzt und Patient", warnt Haug.

Prüfung von Inhalten vor der Verschlüsselung

Wie genau Anbieter die Inhalte ihrer Apps prüfen sollen, lässt der Gesetzesentwurf offen. Fachleute sehen als einzig praktikable Methode das sogenannte "Client-side Scanning". Das ist ein Verfahren, bei dem Nachrichten vor der Verschlüsselung mit einer anonymisierten Datenbank abgeglichen werden. Dort sind Darstellungen sexueller Gewalt oder Fälle von sogenanntem "Grooming" - Versuche potenzieller Täter, eine emotionale Bindung zu Minderjährigen für missbräuchliche Zwecke aufzubauen - gespeichert.

Sie bezweifeln daher, dass die vorgeschlagenen Maßnahmen in der Praxis, anders als im Gesetzesentwurf beschrieben, den Schutz sicherer Verschlüsselung von Online-Kommunikation respektieren würden. Anja Lehmann vergleicht das mit Briefeschreiben in der analogen Welt: "Der Staat will zwar keine Briefe öffnen, aber er will den Menschen beim Schreiben über die Schulter schauen, um zu sehen, was drinsteht."

Falscher Alarm und "Mission Creep"

Gleichzeitig weisen die Forschenden darauf hin, dass KI-gestützte Technologien zum automatischen Scannen von Nachrichten noch nicht ausgereift sind und zu vielen Fehlalarmen führen würden. Sie warnen davor, dass Kriminelle Schwachstellen für großangelegte Angriffe ausnutzen und so die Cybersicherheit privater Endgeräte untergraben könnten.

Und sie warnen vor sogenanntem "Mission Creep": Sobald die Technologie erst einmal im Einsatz ist, könne sie leicht auf die Überwachung anderer Inhalte als sexuelle Gewalt gegen Kinder ausgeweitet werden. "Wenn wir diese Tür erst einmal öffnen, schaffen wir eine Infrastruktur, die uns potenziell in den Überwachungsstaat führt", sagt Lehmann. Antidemokratische Regime könnten die Technologie beispielsweise nutzen, um regierungskritische Inhalte aufzuspüren.    

Politischer Showdown

Es bleibt unklar, ob die Befürworter des Gesetzesentwurfs beim Treffen der EU-Innenminister am 10. Oktober die nötige Mehrheit für eine Verabschiedung finden werden.

Sollte ihnen dies gelingen, würden sich Gespräche hinter verschlossenen Türen anschließen, in denen das Europäische Parlament, der Europäische Rat der Mitgliedsstaaten und die Europäische Kommission die Details des Gesetzes aushandeln. Sollten Gegner wie Deutschland genügend Unterstützung finden, um den Entwurf zu blockieren, würde die EU den Entwurf wahrscheinlich erneut überarbeiten.

Die Niederlande haben schon angekündigt, den Entwurf aufgrund von Grundrechtsbedenken nicht zu unterstützen.