KIF510:Gefahren der geplanten EU Chatkontrolle

Gesetzesvorhaben

• Bei der EU gibt es ein Portal mit diesen
• Die Verbreitung von kinderpornographisches Material und Grooming sollen verhindert werden
• Die Ende-zu-Ende-Verschlüsselung soll umgangen werden.
• Client-side-Scanning (Mit KI?)
• Gefundenes Material wird an die Polizei geschickt, die dann überprüfen müssen, ob es ein false-positive ist
• es dürfen nur noch Apps in App-Stores freigegeben werden, die Gesetzeskonform sind
• Soll auch auf Audio-Chats und Online-Anrufbeantworter angewendet werden
• Pressemitteilung der EU
• EU Survey

Kritik / Bedenken

• Generalverdacht
• Überprüfung durch Polizei unrealistisch (Aufwand + technische Ausstattung) → wird höchstwahrscheinlich zur Überlastung der Behörden führen
• Die Erkennung von Grooming ist schwierig
• Es wird auch Sexting unter Jugendlichen mit erkannt
  • Häufig “Grauzone” / keine Verurteilung bzw. Prozess
  • Würde aber trotzdem als “false positive” erkannt -> Privatsphäreneingriff
• Geschlechtsdiskriminierung: Bilder von Frauen werden anscheinend häufiger als anstößig erkannt (Biases der KIs)
• Es ist ein sehr großer Eingriff in den höchst-persönlichen Lebensbereich
  • Beispiel: Teilen von Bildern mit Arzt
  • Beispiel: 18-jährige Person wird fälschlicherweise geflaggt und ist nun behördenweit bekannt
• Zuständigkeiten sind im Internet nicht klar -> potentiell keine Behörde oder immenses weiterreichen von Daten
• Verortung der Straftat schwierig, nicht einheitliches Strafrecht in EU
• Technische Verfahren können leicht umgangen werden -> große Masse wird überwacht und durchleuchtet, aber nicht die, die gefasst werden sollen
  • Eine funktionierende Chatkontrolle wäre nur möglich, wenn man Ende-zu-Ende Verschlüsselung verhindert, wo wir klar gegen sind
  • Client Side Scanning ist nicht einfacher umzusetzen
• Auch App Stores sollen mit in die Verantwortung genommen werden. Was ist alles ein App Store? GitHub Release Page etc.?
• Welche Chats sind alle betroffen?
• Wer überprüft, was alles auf dem Client gescannt wird? -> hohes Missbrauchspotential
• “Türöffner” für andere Überwachungen aufgrund von z.B. "Terrorismus"
• Wie planen die Regierungen, das Material zu sichern und vor Missbrauch nachfolgender Regierungen zu schützen
• Schicken an unliebsame Personen, um diese (kurzzeitig) zu entfernen
• Wie wird mit “Beifang” umgegangen
  • Also wenn durch die eingesammelten Daten andere Straftaten erkenntlich werden
  • Föderale Unterschiede
• Quellenschutz (Journalismus) schwierig
  • Konflikt mit Grundgesetz (Verordnungen dürfen nicht über Verfassung/GG stehen)
    • Somit in DE nicht umsetzbar (nach unserem laienhaften Verständnis)

• Textstück, das interessant sein kann:
  • start working towards the possible creation of a European centre to prevent and counter child sexual abuse, based on a thorough study and impact assessment. The centre would provide holistic support to Member States in the fight against child sexual abuse, online and offline, ensuring coordination to maximise the efficient use of resources and avoiding duplication of efforts.

Lösungsvorschläge

• Lieber in Bildung investieren (Aufklärung in der Schule, Aufklärungskampagne für Eltern)
• Schulung für technisches Know-How für Personal bei Polizei
  • und auch für Staatsanwaltschaft, Richter und Politiker, um solche Gesetzesentwürfe zu verhindern
• Aktuelle Strukturen bei Polizei aufstocken und verbessern. Ausreichende rechtliche Möglichkeiten gibt es schon.

Handlungsvorschläge für uns

• Aufmerksamkeit erregen:
  • Material mit Flyern (recht weit unten)
  • Sticker
  • Demos organisieren?
• Uni (AStA, StuPa, …) involvieren

Weiteres

• Reso
• Vorherige Reso (Berlin)