Aktuell  |  Überwachung
Kontrollzwang
Automatische Scans von privaten
Nutzerinhalten geplant
Eine EU-Verordnung soll Tech-
Unternehmen verpflichten, aktiv
nach Darstellungen von Kindes-
missbrauch zu suchen. Dafür
müssten sie die verschlüsselte
Kommunikation aller Bürger
­unterminieren. Wird das Post­
geheimnis durch die Hintertür
abgeschafft?
Von Holger Bleich
K indesmissbrauch hofft die Politik
immer wieder mit technischen Mit-
teln in den Griff zu bekommen. Man er-
innere sich an das Vorhaben der damali-
gen Bundesfamilienministerin Ursula von
In einem geleakten Arbeitspapier diskutierte die EU-Kommission 2020 Optionen
zur Ausleitung von Chat-Inhalten vor der Verschlüsselung.
14
der Leyen, mit einem leicht zu umgehen-
den Sichtschutz vor Webseiten den Zu-
gang zu Missbrauchsabbildungen zu er-
schweren. Sie scheiterte 2010 am massi-
ven Widerstand der Zivilgesellschaft.
Von der Leyen ist mittlerweile Präsi-
dentin der EU-Kommission. Es mehren
sich die Anzeichen, dass sie ihren damals
zur Schau gestellten Tech-Solutionismus
in die europäische Regierungsbehörde im-
plantiert hat: „Ich erwäge, Unternehmen
dazu zu verpflichten, bekanntes Material
über sexuellen Kindesmissbrauch aufzu-
decken und den Behörden zu melden“,
hatte Ylva Johansson, Kommissarin für
Inneres, bereits im Februar angekündigt.
Doch außerhalb der Bürgerrechtlerblase
hat davon kaum jemand Notiz genommen.
Das ändert sich gerade, denn die
Pläne Johanssons stehen kurz davor, als
Entwurf einer neuen EU-Verordnung aus
© Copyright by Heise Medien.
Persönliches PDF für Armando Urquiola Cabrera aus 10439 Berlin
ihrem Hause manifest zu werden. Eigent-
lich war die Vorstellung des Texts für
­Dezember geplant, sie wurde aber ver-
schoben und dürfte nun Anfang 2022 an-
stehen. „Bekämpfung des sexuellen Miss-
brauchs von Kindern: Erkennung, Ent­
fernung und Meldung illegaler Online-­
Inhalte“ heißt die Gesetzesinitiative. Zum
konkreten Entwurf ist nichts in Erfahrung
zu bringen. Auf Nachfrage von c’t nannte
eine Sprecherin der Kommission keine
Details, sondern erklärte lediglich: „Die
Kommission arbeitet daran.“
Radikale Richtung
Um eine Idee davon zu bekommen, in
welch radikale Richtung die Kommission
schwenkt, hilft ein Rückgriff auf Septem-
ber 2020. Ein Leak in der Kommission
förderte ein 28-seitiges Arbeitspapier zu-
tage, das es in sich hat. Es führt verschie-
dene technische Ansätze auf, die geeignet
sein sollen, Inhalte in Echtzeit maschinell
auf Missbrauchsdarstellungen hin zu prü-
fen. Spätestens da war klar: Die EU-Kom-
mission arbeitet daran, entweder Inhalte
vor der Verschlüsselung auszuleiten oder
die Messenger-Verschlüsselungen von
den Anbietern aufbrechen zu lassen.
Dass die grundsätzliche Bereitschaft
in der EU besteht, private Nutzerinhalte
maschinell zu erfassen, auszuwerten und
gegebenenfalls automatisiert Strafverfol-
gungsbehörden zukommen zu lassen,
wurde in diesem Sommer deutlich: Mit
einer auf drei Jahre befristeten Verord-
nung erlaubt die EU „Betreibern von Kom-
munikationsdiensten“, auf der Suche nach
Darstellungen von sexuellem Missbrauch
von Kindern maschinell Nutzerinhalte zu
scannen und bei Treffern auszuleiten.
Auch das EU-Parlament stimmte mehr-
heitlich zu.
Nach Ansicht der Kommission war die
Neuregelung nötig geworden, weil eben
diese längst geübte Praxis mit einer Ände-
rung an der Datenschutzrichtlinie für elek-
tronische Kommunikation Ende 2020
plötzlich verboten war. Microsoft etwa hat
dies ignoriert und weiter in Mails und On-
linespeichern nach Missbrauchsdarstel-
lungen gesucht, Facebook aber hat die
proaktiven Scans daraufhin ausgesetzt.
Der vorläufigen Verordnung soll also
nun ein großer unbefristeter Wurf folgen,
der Scans verpflichtend macht und auch
Ende-zu-Ende-verschlüsselte Kommuni-
kation umfasst. Der EU-Abgeordnete und
Bürgerrechtler Patrick Breyer hat dafür den
Begriff „Chatkontrolle 2.0“ geprägt (siehe
c’t 2021, Heft 25
 Überwachung  | Aktuell

„Fatale Folgen“
Seit Mai 2019 sitzt Patrick Breyer für die Europäische Piraten­
partei im EU-Parlament. Der gelernte Jurist ist Mitglied des Aus­
schusses für bürgerliche Freiheiten, Justiz und Inneres (LIBE) und
will sich sich dort nach eigenem Bekunden gegen staatliche Über­
wachung in der digitalen Welt einsetzen. Breyer hat für die Pläne
der Kommission den Begriff „Chatkontrolle“ geprägt.

c’t: Befürworter der automatisierten
Suche nach Missbrauchsinhalten in
privaten Chats sprechen von einer
Rechtsgüterabwägung: Das Recht auf
Privatsphäre müsse sich hier dem
Recht auf körperliche Unversehrtheit
von Kindern unterordnen.
Patrick Breyer: Es dient ja eben nicht den
Schutz von Kindern, verdachtsunabhän-
gig im Nebel zu stochern. Dadurch zer-
stört man das digitale Briefgeheimnis.
Kinder brauchen übrigens auch Privat-
sphäre, etwa, wenn sie im Rahmen von
Sexting Nacktfotos verschicken. Die dür-
fen nicht in falsche Hände geraten. Und
auch jugendliche Missbrauchsopfer sind
auf vertrauliche Kommunikation angewie-
sen, um Hilfe zu finden. Uns hat etwa ein
Opfer erläutert, wie wichtig es war, in
einem geschützten Raum via verschlüs-
seltem Messenger mit Therapeuten und
Polizei in Kontakt zu treten.
c’t: Vielfach wird aber auch behauptet,
es gebe einen gesellschaftlichen Kon-
sens: Wenn ein Mittel hilft, Kindes-
missbrauch einzudämmen, sollte es
genutzt werden.
Breyer: Kinderpornoringe, die tatsächlich
für den Missbrauch verantwortlich sind,
nutzen aber doch kein WhatsApp oder
GMail, sondern beispielsweise Darknet-
Foren. In die gilt es, mit verdeckter Polizei-
arbeit einzudringen. Heute dauert es auch
bei konkretem Verdacht teils Monate, bis
Durchsuchungsbeschlüsse vollstreckt
werden. Und danach können Monate bis
Jahre vergehen, bis die Datenträger aus-
gewertet sind. In dieser bestehenden
Überlastungssituation bei der Strafver-
folgung den Heuhaufen sogar vergrößern
zu wollen, in dem sich die Nadeln ver-
stecken, halte ich für skandalös.
c’t: Ist denn dem EU-Parlament be-
kannt, wie sich die Kommission kon-
kret ein automatisiertes Scannen von
Inhalten auf dem Gerät und vor der
Übermittlung in verschlüsselten Chats
vorstellt?
Breyer: Die Kommission macht es sich da
sehr einfach und sagt: „Kommunikations-
dienste sind verpflichtet.“ Punkt. Es läuft
auf zwei Optionen hinaus: Entweder wer-
den Inhalte auf dem Client durchsucht,
also etwa dem Smartphone, oder die
Ende-zu-Ende-Verschlüsselung muss
weg. In beiden Fällen verlieren Sender
und Empfänger das Vertrauen darin, dass
nur sie vertrauliche Inhalte sehen können.
Das hätte auch fatale Folgen für sensible
Bereiche wie Whistleblowing oder Ge-
schäftsgeheimnisse. Man muss sich das
mal vorstellen: Die EU-Kommission selbst
empfiehlt ihren Mitarbeitern, mit dem
Messenger Signal Ende-zu-Ende-ver-
schlüsselt zu kommunizieren, um Back-
doors auszuschließen.
c’t: Wäre es für Sie ein gangbarer Weg,
die Scans wie bislang optional zu be-
lassen, also die Verpflichtung dazu zu
streichen?
Breyer: Eine Ausnahme für verschlüsselte
Kommunikation würde Dienste wie E-Mail
völlig ungeschützt lassen. Ein Rechtsgut-
achten hat uns außerdem bestätigt, dass
es grundrechtlich keinen Unterschied
macht, ob Provider freiwillig oder auf-
grund einer Pflicht private Kommunika-
tion der Kunden durchleuchten. Beides
ist ein illegaler, unverhältnismäßiger
Grundrechtseingriff, hat uns die ehema-
lige EuGH-Richterin Ninon Colneric er-
klärt. Die einzige Option, die ich sehe, ist:
Die Durchleuchtung muss auf öffentlich
zugängliche Inhalte beschränkt sein. Und
dies sollten Behörden tun, nicht die in-
transparenten Algorithmen der Plattfor-
men. Der Bund Deutscher Kriminalbeam-
ter hat jüngst in Bezug auf das Kommis-
sionsvorhaben nicht umsonst darauf
hingewiesen, dass die Verfolgung von
Straftaten eine hoheitliche Aufgabe ist,
die nicht in private Hände gehört.

Interview im Kasten). Er sieht das verfas-
sungsrechtlich geschützte Post- und Fern-
meldegeheimnis sowie die Achtung der
Europäischen Grundrechtecharta (GRCh)
gefährdet und ruft derzeit zum Widerstand
gegen die geplante Verordnung auf.
Auch die renommierte deutsche Ge-
sellschaft für Informatik (GI) äußerte sich
Anfang November sehr kritisch. Hartmut
Pohl, Sprecher des GI-Präsidiumsarbeits-
kreises, betonte: „Will die EU-Kommissi-
on auf eingebaute Hintertüren verzichten,
gibt es nach dem Stand der Technik nur
die ‚heimliche Online-Durchsuchung‘ –
sogenanntes ‚client-side scanning‘ – der
Endgeräte beispielsweise durch Staatstro-
janer mit der Durchsuchung aller Spei-
cherinhalte aller Clients und Server. Dies
verstößt gegen die europäischen Grund-
rechte.“
Genau dieses client-side Scanning ist
jüngst Apple auf die Füße gefallen: Als der
Konzern angekündigt hatte, künftig auf
iPhones automatisiert nach Missbrauchs-
bildern zu suchen, bevor die Daten ver-
schlüsselt in die Cloud geschoben werden,
brach ein Sturm der Entrüstung los. Klein-
laut verschob Apple den Plan daraufhin
und beschränkt sich auf weniger invasive
Maßnahmen. Nun soll diese Methode –
bislang weitgehend unbemerkt von der
Öffentlichkeit – sogar verpflichtend in der
gesamten EU werden.  (hob@ct.de) 

© Copyright by Heise Medien.

c’t 2021, Heft 25 15

Persönliches PDF für Armando Urquiola Cabrera aus 10439 Berlin