KIF505:Chatkontrolle

Resolution

Die 50,5. Konferenz der deutschsprachigen Informatikfachschaften fordert die Regierungen der EU-Staaten dazu auf, die Privatsphäre in jeglicher digitaler Kommunikation zu schützen. Deshalb spricht sich die Konferenz gegen jegliche Form von Chatkontrolle, insbesondere dem entsprechenden Vorschlag der EU-Kommission und der damit einhergehenden Massenüberwachung aus.

Die 50,5. Konferenz der deutschsprachigen Informatikfachschaften hält den Gesetzesvorschlag zur Chatkontrolle mindestens für ineffektiv und gefährlich und im schlimmsten Falle für einen Vorwand zur uneingeschränkten Überwachung der Bevölkerung. Wir fordern zum Schutz privater Daten und der Prävention politischer Ausnutzung eine Ablehnung des Entwurfes.

Begründung

Hintergrund

Die EU hat den Gesetzesentwurf am 11.05.2022 veröffentlicht, um effektiver gegen Kindesmissbrauch und die Verbreitung von kinderpornografischem Material vorgehen zu können. Hauptpunkt war dabei, dass künstliche Intelligenz (KI/AI) eingesetzt werden soll, um bisher Ende-zu-Ende verschlüsselte Chatplattformen zu überwachen und so dort kinderpornografisches Material finden und melden zu können. Dabei werden ausgewählte Plattformanbieter dazu gezwungen auf ihren Apps o. ä. eine bereitgestellte KI zu installieren und so direkt auf den Endnutzer-Geräten Inhalte scannen zu können. Mit diesem Vorgehen, soll eine Chatüberwachung trotz Ende-zu-Ende-Verschlüsselung ermöglicht werden.

Durchführungsprobleme

Das System der Chatkontrolle hat viele technische Probleme. Bereits heute nutzen Kriminelle - die eigentliche Zielgruppe der Überwachung - andere Plattformen für den Datei-Austausch als Ende-zu-Ende-verschlüsselte Messenger. Dies hat den Hintergrund, dass der Bedarf nach großer Datenübertragung besteht, wofür Privat-Chat-Systeme ungeeignet sind. Filehosting-Dienste (Online-Systeme speziell zum Austausch von Dateien) eignen sich weitaus besser. Der Kampf gegen den derartigen Missbrauch solcher Plattformen, kann bereits über bestehende Mittel gemacht werden, wie es eine Recherche von STRG_F gezeigt hat. Das heißt, die Chatkontrolle setzt an einer Stelle an, die für die gesuchten Kriminellen selbst unattraktiv ist, aber von normalen Bürgerinnen und Bürgern tagtäglich genutzt wird.

An dieses Problem schließt eine statistische Schwierigkeit an: Durch die Chatkontrolle würden Kriminelle noch weiter von Messengern auf andere Plattformen ausweichen, wodurch die erfolgreichen Treffer durch die Chatkontrolle vermutlich nachlassen würden. Das hätte besser werdende Statistiken bei schlimmer werdender Realität zur Folge, was den öffentlichen und politischen Diskurs weiter erschweren würde.

Probleme der Scantechnik

Sogenannte künstliche Intelligenz (KI/AI) hat immer zwangsweise eine gewisse Ungenauigkeit. Selbst bei utopisch niedriger Fehlerrate von z. B. 0,01 %, hätte man bereits 2014, allein in Deutschland, bei ca. 400 Millionen Nachrichten, nur auf WhatsApp pro Tag (Quelle siehe statista.de) eine Masse an 40.000 fälschlich als kritisch markierter Nachrichten. Sollte das System der Chatkontrolle EU-weit umgesetzt werden und sich auf alle größeren Messenger auswirken, hätte die zentrale EU-Stelle zur ersten Prüfung der gefundenen Inhalte einen immensen täglichen Arbeitsaufwand. Das hätte eine hoffnungslose Überforderung der Zuständigen oder zumindest extreme Personalkosten zur Folge. Außerdem ist anzumerken, dass in dieser Schätzung an allen Stellen nach unten gerundet wurde. Die Nachrichten-Menge in Messengern ist in 2022 vermutlich um Größenordnungen höher als dies 2014 der Fall war.

Sicherheit und Effektivität

Der aktuell geplante Aufbau des Chatkontrolle-Systems hätte zur Folge, dass sich automatisch Massen an kinderpornographischem Material bei der jeweiligen EU-Stelle zur ersten Prüfung der gemeldeten Nachrichten sammeln würde. Mit dem Hintergrund von vielen und immer wieder auftretenden Datenleaks, auch von öffentlichen Organisationen (TODO: Quellen), und der immensen Attraktivität für Kriminelle, würde es dabei sehr wahrscheinlich früher oder später zu sicherheitstechnischen Problemen kommen. Das heißt, von jedem EU-Bürger und jeder EU-Bürgerin könnten durch so ein Szenario Nachrichten und z. B. Bilddateien frei zugänglich im Internet landen.

Als eine technische Hintergrundanmerkung: Kein System ist zu 100 % sicher. Moderne IT-Systeme sind dafür zu komplex und Programmierfehler unvermeidbar. Ein vollkommen sicheres System für z. B. diesen Anwendungsfall kann es nicht geben.

Politische Konsequenzen

Autokratien in unserer Zeit nutzen moderne Technik zur Überwachung, generell der Bevölkerung, u. A. von systemfeindlichen Bewegungen und u. U. auch zur Unterdrückung/Verfolgung von Minderheiten. Eine wirklich private Kommunikation ist essentiell für den Erhalt und Schutz der Demokratie und eines der effektivsten Mittel gegen autoritäre Umgebungen. Ist das System der Chatkontrolle einmal installiert, wird vermutlich im Hintergrund die Technik zur Feststellung "Soll dieser Inhalt gemeldet werden?" leichter austauschbar/veränderbar sein, als diesem Einschnitt angemessen wäre. Neben kinderpornographischem Material könnte man z. B. genauso gut nach bestimmten politischen Denkweisen suchen. Besonders mit dem Hintergrund der aktuellen politischen Entwicklungen in der Welt, wenn bisher standfeste Demokratien in Richtung Autokratie rutschen, ist eine sichere und private Kommunikation in Form von Ende-zu-Ende-verschlüsseltem Austausch ohne Überwachung davor und danach ein absolut notwendiges und uneinschränkbares Mittel.

Wir verweisen hiermit auch ausdrücklich auf die Stellungnahme des CCC vom 09.05.2022 zu dem Thema.