KIF505:Chatkontrolle

Resolution

Die 50,5. Konferenz der deutschsprachigen Informatikfachschaften fordert die Regierungen der EU-Staaten dazu auf, die Privatsphäre in jeglicher digitaler Kommunikation zu schützen. Deshalb spricht sich die Konferenz gegen jegliche Form von Chatkontrolle, insbesondere dem entsprechenden Vorschlag der EU-Kommission und der damit einhergehenden Massenüberwachung aus.

Die 50,5. Konferenz der deutschsprachigen Informatikfachschaften hält den Gesetzesvorschlag zur Chatkontrolle mindestens für ineffektiv und gefährlich und im schlimmsten Falle für einen Vorwand zur uneingeschränkten Überwachung der Bevölkerung. Wir fordern zum Schutz privater Daten und der Prävention politischer Ausnutzung eine Ablehnung des Entwurfes.

Begründung

Hintergrund

Die EU hat den Gesetzesentwurf am 11.5.2022 veröffentlicht, um effektiver gegen Kindesmissbrauch und die Verbreitung von kinderpornografischem Material vorgehen zu können. Hauptpunkt war dabei, dass künstliche Intelligenz (KI/AI) eingesetzt werden soll, um bisher Ende-zu-Ende verschlüsselte Chatplatformen zu überwachen (und möglicherweise zu deanonymisieren?). Dies ist ein massiver Eingriff in die Privatsphäre und legt die Grundsteine zu einer Massenüberwachung, welche das Justizsystem überfordern und die Sicherheit und Privatsphäre, insbesondere von unschuldigen Bürger*innen und marginalisierten Gruppen führen kann.

Durchführungsprobleme

Das System der Chatkontrolle hat viele technische Probleme. Bereits heute nutzen Kriminelle - die eigentliche Zielgruppe der Überwachung - andere Plattformen für den Datei-Austausch als Ende-zu-Ende-verschlüsselte Messenger. Dies hat den Hintergrund, dass der Bedarf nach großer Datenübertragung besteht, wofür Privat-Chat-Systeme ungeeignet sind. Filehosting-Dienste (Online-Systeme speziell zum Austausch von Dateien) eignen sich weitaus besser. Der Kampf gegen den derartigen Missbrauch solcher Plattformen, kann bereits über bestehende Werkzeuge gemacht werden, wie es STRG_F gezeigt hat. Das heißt, die Chatkontrolle setzt an einer Stelle an, die für die gesuchten Kriminellen selbst unattraktiv ist, aber von normalen Bürgerinnen und Bürgern tagtäglich genutzt wird.

An dieses Problem schließt eine statistische Schwierigkeit an: Durch die Chatkontrolle würden Kriminelle noch weiter von Messengern auf andere Plattformen ausweichen, wodurch die erfolgreichen Treffer durch die Chatkontrolle vermutlich nachlassen würden. Das hätte besser werdende Statistiken bei schlimmer werdender Realität zur Folge, was den öffentlichen und politischen Diskurs weiter erschweren würde.

KI (TODO: Der Abschnittsname ist etwas unkonkret)

Sogenannte künstliche Intelligenz (KI/AI) hat immer zwangsweise eine gewisse Ungenauigkeit. Selbst bei utopisch niedriger Fehlerrate von z. B. 0,01 %, hätte man bereits 2014, allein in Deutschland, bei ca. 400 Millionen Nachrichten, nur auf WhatsApp (Quelle siehe statista.de), pro Tag eine Masse an 40.000 fälschlich als kritisch markierter Nachrichten. Sollte das System der Chatkontrolle EU-weit umgesetzt werden und sich auf alle größeren Messenger auswirken, hätte die zentrale EU-Stelle zur ersten Prüfung der gefundenen Inhalte einen immensen täglichen Arbeitsaufwand. Das hätte eine hoffnungslose Überforderung der Zuständigen oder zumindest extreme Personalkosten zur Folge. Außerdem ist anzumerken, dass in dieser Schätzung an allen Stellen nach unten gerundet wurde. Die Nachrichten-Menge in Messengern ist in 2022 vermutlich um Größenordnungen höher als dies 2014 der Fall war.

Sicherheit und Effektivität

Der aktuell geplante Aufbau des Chatkontrolle-Systems hätte zur Folge, dass sich automatisch Massen an kinderpornographischem Material bei der jeweilige EU-Stelle zur ersten Prüfung der gemeldeten Nachrichten sammeln würde. Mit dem Hintergrund von vielen und immer wieder auftretenden Datenleaks, auch von öffentlichen Organisationen (TODO: Quellen), und der immensen Attraktivität für Kriminelle, würde es dabei sehr wahrscheinlich früher oder später zu sicherheitstechnischen Problemen kommen. Das heißt, von jedem EU-Bürger und jeder EU-Bürgerin könnten durch so ein Szenario Nachrichten und z. B. Bilddateien frei zugänglich im Internet landen. Als eine Hintergrundanmerkung: Kein System ist zu 100 % sicher. Moderne IT-Systeme sind dafür zu komplex und Programmierfehler unvermeidbar. Ein vollkommen sicheres System für z. B. diesen Anwendungsfall kann es nicht geben.

Zusätzlich ist eine Effektivität von Systemen zur Chatkontrolle generell Fragwürdig. Kinderpornografisches Material wird größtenteils in Clearnet- Foren und Datenablagesystemen geteilt, weswegen ein System wie das vorgestellte am falschen Ort ansetzt. Der aktuelle Entwurf betrifft größtenteils "unschuldige" Bürger\*innen und schafft zahlreiche datenschutztechnische Gefahren und massive Angriffsflächen für politischen Missbrauch. Bedenken in Fällen wie der kommunikation zwischen Minderjährigen sind hier nur eins von vielen Beispielen, in welchen ein solches System fehlschlagen kann, was Minderjährige im Schlimmstfall durch Datenleaks oder Missbrauch von Daten sogar angreifbarer machen kann. Ein großer Anteil an Falschmeldungen, welcher von Menschen manuell geprüft werden muss, lässt enorme Sicherheitsbedenken aufkommen und führt unausweichlich auch zu Fehleinschätzungen. Wir stellen uns außerdem die Frage, wie eventuelle Meldungen verfolgt werden, da dies eine Deanonymisierung suggeriert, welche sensible Nutzer*innendaten gefährdet.

Politische Konsequenzen

Autokratien in unserer Zeit nutzen moderne Technik zur Überwachung, generell der Bevölkerung, u. A. von systemfeindlichen Bewegungen und u. U. auch zur Unterdrückung/ Verfolgung von Minderheiten. Eine wirklich private Kommunikation ist essentiell für den Erhalt und Schutz der Demokratie und eines der effektivsten Mittel gegen autoritäre Umgebungen. Ist das System der Chatkontrolle einmal installiert, wird vermutlich im Hintergrund die Technik zur Feststellung "Soll dieser Inhalt gemeldet werden?" leichter austauschbar/veränderbar sein, als diesem Einschnitt angemessen wäre. Neben Kinderpornographischem Material könnte man z. B. genauso gut nach bestimmten politischen Denkweisen suchen. Besonders mit dem Hintergrund der aktuellen politischen Entwicklungen in der Welt, wenn bisher standfeste Demokratien in Richtung Autokratie rutschen, ist eine sichere und private Kommunikation in Form von Ende-zu-Ende-verschlüsseltem Austausch ohne Überwachung davor und danach ein absolut notwendiges und uneinschränkbares Mittel in unserer Zeit.

Wir verweisen hiermit auch ausdrücklich auf die Stellungnahme des CCC vom 09.05.2022 zu dem Thema.