Sie sehen im neuen Vorstoß der dänischen Ratspräsidentschaft eine massive Untergrabung der digitalen Privatsphäre und Sicherheit
Zentraler Punkt des Vorhabens, auch in der aktuellen Vorlage, bleibt das sogenannte Client-side Scanning, das in Brüssel mitunter auch als „Uploadmoderation“ bezeichnet wird. Von der Idee, Anbieter wie Meta (Whatsapp, Facebook, Instagram), Signal oder Telegram dazu zu verpflichten, für Behörden Hintertüren für den Direktzugriff auf Nachrichten der User zu integrieren, ist man zwar vor Jahren abgerückt. Datenschutztechnisch gestaltet sich die neue Lösung aber ebenfalls sehr schwierig.
Hier ist nun vorgesehen, dass die Anbieter „visuelle Inhalte“ – also Bilder und Videos – sowie URLs auf Beschluss von Gerichten oder qualifizierten Behörden hin noch vor Verschlüsselung und Versand einer Nachricht direkt am Gerät der Nutzer scannen.
Der Abgleich soll bisherigen Arbeitspapieren zufolge mit Hash-Werten aus polizeilichen Datenbanken erfolgen, für die Erkennung von potenziell neuem CSAM wurde aber auch schon eine KI-basierte Lösung ins Spiel gebracht und wird im aktuellen Vorschlag auch angedeutet. Schlägt der Detektor an, sollen die Anbieter verpflichtet werden, zeitnah einen Bericht an das EU Centre zu schicken, der nicht nur das potenziell verdächtige Material, sondern auch eine Reihe an anderen Informationen enthält.
Allerdings lese man „mit Bestürzung“, dass keine der „großen Sorgen“ berücksichtigt wurden.
Dabei hält man klar fest: „Es ist einfach nicht praktikabel, die Erkennung von bekanntem und neuem CSAM für hunderte Millionen Nutzer mit akzpetabler Genauigkeit durchzuführen“, egal mit welcher Methode. Das Client-Side-Scanning unterwandere zudem inhärent jenen Schutz, den Ende-zu-Ende-Verschlüsselung bietet. Dass man sich stark auf technische Maßnahmen stütze, sorge für ein höheres Sicherheits- und Privatsphärerisiko für die Bürger, ohne dass sich damit ein besserer Schutz von Kindern vor sexueller Ausbeutung garantieren ließen.
„Der neue Vorschlag würde, so wie seine Vorgänger, bisher nicht dagewesene Möglichkeiten für Überwachung, Kontrolle und Zensur schaffen“, so die scharfe Kritik. Und dies berge das Risiko einer langsamen Ausweitung („function creep“) und Missbrauch durch „weniger demokratische Regime“. Man habe keinen Zweifel, dass essenzielle Funktionen für Privatsphäre und Sicherheit der „digitalen Gesellschaft“ so massiv ausgehöhlt würden.
Ins Gericht geht man auch mit der Definition von „high risk“-Services. Denn diese würde nach Ansicht der Forscher aktuell manche Messenger zur Gänze umfassen, beispielsweise Whatsapp und Signal. Dabei verweist man darauf, dass diese nicht nur von der Allgemeinheit, sondern auch von „Politikern, Journalisten, Menschenrechtsarbeitern, EU-Beamten und Strafverfolgungsbeamten“ verwendet werden. Der vorliegende Entwurf würde die Schutzwirkung solcher verschlüsselten, beliebten Messenger aushebeln.
open letter on the position of scientists and researchers on the EU’s
proposed Child Sexual Abuse Regulation :