KIF505:Chatkontrolle

Siehe https://md.kif.rocks/505-reso-chatkontrolle

• _Einleitung (Standpunkt)_

Die 50,5. Konferenz der deutschsprachigen Informatikfachschaften fordert die Regierungen der EU-Staaten dazu auf, die Privatsphäre in jeglicher^[1] digitaler Kommunikation zu schützen. Deshalb spricht sich die 50,5. KIF gegen jegliche Form von Chatkontrolle, insbesondere dem entsprechenden [Vorschlag der EU-Kommission](https://ec.europa.eu/commission/presscorner/detail/de/ip_22_2976) und der damit einhergehenden Massenüberwachung aus.

• _Hintergrund (Gesetzesentwurf punkte, argumente ansprechen)_

Die EU hat den Gesetzesentwurf am 11.5.2022 veröffentlicht, um effektiver gegen Kindesmissbrauch und die Verbreitung von kiderpornografischem Material vorgehen zu können. Hauptpunkt war dabei, dass knstliche Intelligenz(KI) eingesetzt werden soll, um bisher ende- zu ende verschlüsselte Chatplatformen zu überwachen (und möglicherweise zu deanonymisieren?). Dies ist ein massiver Eingriff in die Privatsphäre und legt die Grundsteine zu einer Massenüberwachung, welche das Justizsystem überfordern und die Sicherheit und Privatsphäre, insbesondere von unschuldigen Bürger\*innen und marginalisierten Gruppen führen kann.

• _Fließtext:_ Das System der Chatkontrolle hat viele technische Probleme. Bereits heute nutzen Kriminelle - die eigentliche Zielgruppe der Überwachung - andere Plattformen für den Datei-Austausch als Ende-zu-Ende-verschlüsselte Messenger. Dies hat den Hintergrund, dass der Bedarf nach großer Datenübertragung besteht, wofür Privat-Chat-Systeme ungeeignet sind. Filehosting-Dienste eignen sich weitaus besser. Der Kampf gegen den derartigen Missbrauch solcher Plattformen, wird bereits über bestehende strafrechtliche Werkzeuge gemacht. TODO:strg+f Das heißt, die Chatkontrolle setzt an einer Stelle an, die für die gesuchten Kriminellen selbst unattraktiv ist, aber von normalen Bürgerinnen und Bürgern tagtäglich genutzt wird.

 Sogenannte künstliche Intelligenz (KI/AI) hat immer zwangsweise eine gewisse Ungenauigkeit. Selbst bei utopisch niedriger Fehlerrate von z. B. 0,01 %, hätte man bereits 2014, allein in Deutschland, bei ca. 400 Millionen Nachrichten, nur auf WhatsApp (Quelle siehe [statista.de](https://de.statista.com/statistik/daten/studie/3624/umfrage/entwicklung-der-anzahl-gesendeter-sms-mms-nachrichten-seit-1999/)), pro Tag eine Masse an 40.000 fälschlich als kritisch markierter Nachrichten. Sollte das System der Chatkontrolle EU-weit umgesetzt werden und sich auf alle größeren Messenger auswirken, hätte die zentrale EU-Stelle zur ersten Prüfung der gefundenen Inhalte einen immensen täglichen Arbeitsaufwand. Das hätte eine hoffnungslose Überforderung der Zuständigen oder zumindest extreme Personalkosten zur Folge. Außerdem ist anzumerken, dass in dieser Schätzung an allen Stellen nach unten gerundet wurde. Die Nachrichten-Menge in Messengern ist in 2022 vermutlich um Größenordnungen höher als dies 2014 der Fall war.
 Der aktuell geplante Aufbau des Chatkontrolle-Systems hätte zur Folge, dass sich automatisch Massen an kinderpornographischem Material bei der jeweilige EU-Stelle zur ersten Prüfung der gemeldeten Nachrichten sammeln würde. Mit dem Hintergrund von vielen und immer wieder auftretenden Datenleaks, auch von öffentlichen Organisationen, und der immensen Attraktivität für Kriminelle, würde es dabei sehr wahrscheinlich früher oder später zu sicherheitstechnischen Problemen kommen. Das heißt, von jedem EU-Bürger und jeder EU-Bürgerin könnten durch so ein Szenario Nachrichten und z. B. Bilddateien frei zugänglich im Internet landen. Als eine Hintergrundanmerkung: Kein System ist zu 100 % sicher. Moderne IT-Systeme sind dafür zu komplex und Programmierfehler unvermeidbar. Ein vollkommen sicheres System für z. B. diesen Anwendungsfall kann es nicht geben.
 
* _Folgen für Bürgerinnen und Bürger:_
   _Fließtext:_ Zusätzlich ist eine Effektivität von Systemen zur Chatkontrolle generell Fragwürdig. (Studie einfügen?) Kinderpornografisches Material wird größtenteils in Clearnet- Foren und Datenablagesystemen geteilt, weswegen ein System wie das vorgestellte am falschen Ort ansetzt. Der aktuelle Entwurf betrifft größtenteils "unschuldige" Bürger\*innen und schafft zahlreiche datenschutztechnische Bedenken und massive angriffdflächen für politischen Missbrauch. Bedenken in Fällen wie der kommunikation zwischen minderjährigen sind hier nur eins von vielen Beispielen, in welchen ein solches System außerdem fehlschlagen kann, was Minderjährige im schlimmstfall durch datenleaks oder Missbrauch von Daten sogar angreifbarer machen kann. Ein großer Anteil an Falschmeldungen, welcher von Menschen manuell geprüft werden muss, lässt enorme Sicherheitsbedenken aufkommen und führt unausweichlich auch zu Fehleinschätzungen. Wir stellen uns außerdem die Frage, wie eventuelle Meldungen verfolgt werden, da dies eine Deanonymisierung suggeriert, welche sensible Nutzer\*innendaten gefährdet.

   * Politische/ Rechtliche Konsequenz
   -> Wer hat ahnung von Politik? Hier schreiben lol
       * Ausnutzung von Autoritären regierungen/ zum nachteil marginalisierter gruppen
       * das Chatkontrolle-System kann leicht ausgenutzt werden, um nach anderen Themen u. ä. zu suchen oder um in die Meinungsfreiheit einzugreifen.
   Autokratien in unserer Zeit nutzen moderne Technik zur Überwachung, generell der Bevölkerung, u.A. von systemfeindlichen Bewegungen und u. U. auch zur unterdrückung/ verfolgungvon Minderheiten. Eine wirklich private Kommunikation ist essentiell für den Erhalt und Schutz der Demokratie und eines der effektivsten Mittel gegen autoritäre Umgebungen (TODO: Beispiel Hongkong). Ist das System der Chatkontrolle einmal installiert, wird vermutlich im Hintergrund die Technik zur Feststellung "Soll dieser Inhalt gemeldet werden?" leichter austauschbar/veränderbar sein, als diesem Einschnitt angemessen wäre. Neben kinderpornagraphischem Material könnte man z. B. genauso gut nach 
   
   * Vorwand zur überwachung?
   _Fließtext_ Die 50,5. KIF sieht den Gesetzesvorschlag zur Chatkontrolle im Bestfall für ineffektiv und gefährlich, im Schlimmstfall für einen Vorwand zur uneingeschränkten Überwachung von Bürger\*innen und fordert, zum Schutz privater Daten und der prävention politischer Ausnutzung, dass ein

• _Forderung_

Daher sehen wir in der Schaffung von Systemen zur anlasslosen Überwachung von Chatsystemen die Gefahr der Ausnutzung seitens anderer Behörden.

• _Richtige argumentation wie in deutsch mit argument, beschreibung, begründung lol???

Die von der EU angegebenen Gründe zur Bekämpfung der Verbreitung von pädokriminellem Bildmaterial sind durchschaubare Vorwände (und lädt zu Missbrauch ein?). Die pädokriminelle Szene nutzt zur Verbreitung von strafrechtlich relevantem Bildmaterial vorwiegend Clearnet Foren und Filehosting Dienste, zu deren Bekämpfung bestehende rechtsstaatliche Mittel geeignet sind. Die grundrechtlichen Eingriffe und anlasslose Überwachung der gesamten Bevölkerung ist vor diesen Hintergrund nicht hinnehmbar und würde am Problem vorbei wirken. Dem gegenüber steht ein hohes Missbrauchspotenzial, da durch das schaffen von technischen Mitteln zur Massenüberwachung begehrlichkeiten geweckt werden. Der Fall NSU 2.0 zeigt, dass die Strafverfolgungsbehördern bereits bestehende Systeme nicht vor Misbrauch schützen können. Die technische Umsetzung des Systems Bildmaterial mit künstlicher Intelligenz zu durchleuchten hat das Potenzial, den Überwachungsumfang von pädokriminellem Bildmaterial auf andere Daten zu erweitern. Daher sehen wir in der Schaffung von Systemen zur anlasslosen Überwachung von Chatsystemen die Gefahr des Weckens von Begehrlichkeiten seitens anderer Behörden.

• großer Anteil an Falschmeldungen

       * Gefährdung von Anonymität in Chatdiensten
       * Kommunikation minderjähriger paare
       * Fließtext: 

• _"Risiken"/Bedenken der KIF_

   * Technische Probleme
       * Kriminelle nutzen andere spaces -> oder wechseln
         * statistiken werden besser, obwohl problem nicht gelöst wird
       * selbst mit utopischer Genauigkeit würde die EU-Behörde eine Flut an Treffern kriegen
       * Oft nur in genauem Kontext entscheidbar, ob der jew. Fall kritisch ist
         * BEGRÜNDUNG incl Bsp.
       * in der EU-Behörde sammelt sich automatisch ein Berg an kinderpornographischen Material und anderem persönlichen Material (mindestens die Fehlinterpretationen der Software) an -> Problem mit Datenleaks