Chatkontrolle: Wie die EU unsere digitale Freiheit gefährdet

Kategorien: Datenschutz

„Roboter, Computer und Algorithmen dienen nicht uns, wir dienen ihnen. Sie haben uns permanent unter Kontrolle, messen alles, was wir tun und berechnen, wie sie noch mehr aus uns herausholen können.“ Mit diesen provokanten Worten des Technologie-Experten Gunter Düeck lässt sich treffend beschreiben, worauf wir zusteuern – besonders wenn es nach den Plänen einiger EU-Politiker geht.

Einleitung

Dieser Artikel ergänzt die Datenschutz Deluxe Podcast-Folge #26 Chatbots nutzen: wofür und wofür besser nicht? Das Thema ist wieder aktuell geworden, nachdem es eine Weile keine Neuigkeiten zur Chatkontrolle gegeben hatte. In diesem Beitrag diskutieren wir allgemein über die Problematik, Chats massenhaft überwachen zu wollen. Aktuell gibt es noch keine Entscheidung, ob eine solche Überwachung kommt oder wie sie gestalten werden soll. Im Gespräch ist, Texte und Audiospuren nicht auszuwerten, dafür aber Bilder.

Den Podcast können Sie hier anhören:

Der Datenschutz-Deluxe Podcast wird lokal auf Dr. DSGVO betrieben. Die Plattform Podigee wird nicht weiter verwendet. Stattdessen wurde der bisherige Podcast automatisiert auf eine lokale Version migriert. Dank KI-Unterstützung ging das reibungslos.

Was ist die Chatkontrolle?

Seit mehreren Jahren steht ein Gesetzesentwurf der EU-Kommission im Raum, der unter dem Vorwand der Kriminalitätsbekämpfung – insbesondere gegen Kinderpornografie und Cyber-Grooming – die Aushöhlung von Verschlüsselungstechnologien in Messengerdiensten und allen elektronischen Kommunikationsdiensten vorsieht. Aktuell unterstützen etwa zehn EU-Staaten diesen Vorstoß für eine allumfassende Überwachung.

Die Gegner argumentieren, dass diese sogenannte Chatkontrolle weit über die Privatsphäre und Grundrechte unserer demokratischen Ordnung hinausgeht. Doch was würde es konkret bedeuten, wenn Regierungen jederzeit ohne großartige Vorwände private Kommunikationen in Chats, aus Messengerdiensten und E-Mails abgreifen könnten?

Das Problem mit dem Client-Side-Scanning

Der geplante Mechanismus nennt sich „Client-Side-Scanning“. Dabei soll direkt auf dem Endgerät – also auf Ihrem Smartphone oder Computer – ein automatischer Scan stattfinden. Dieser soll prüfen, ob bestimmte Schlüsselwörter verwendet werden, die mit kriminellen Aktivitäten in Verbindung stehen könnten, oder ob die Semantik der Kommunikation verdächtig erscheint.

Die Fehlalarm-Problematik

Das größte Problem: Es wird unzählige Fehlalarme geben. Ein harmloses Beispiel verdeutlicht die Absurdität: Eltern, die ein Foto ihres nackten Kleinkindes am Strand an Familienmitglieder schicken, könnten automatisch ins Visier geraten. Der Algorithmus erkennt „nacktes Kind“– schon wird der Chat ausgeleitet und überprüft.

Diese Situation ähnelt dem Problem von Autoalarmanlagen: Wenn ein Alarm ständig ohne echten Grund losgeht, nimmt ihn niemand mehr ernst. Bei der Chatkontrolle wären es vermutlich 99 Prozent Fehlalarme und vielleicht ein Prozent tatsächlich verdächtige Fälle.

Apples CSAM-Skandal als Warnung

Apple hat bereits einen solchen Mechanismus entwickelt und getestet. Bei der sogenannten CSAM-Affäre (Child Sexual Abuse Material) wurde deutlich, wie problematisch diese Technologie ist:

• Bilder wurden automatisch verschlüsselt an Apple-Server übertragen
• Ein Abgleich mit einer Datenbank fand statt – bevor der Nutzer die Nachricht überhaupt versendet hatte
• Das System wurde im Laufe der Zeit immer sensibler eingestellt

Ein interner Whistleblower bei Apple berichtete, dass der Fokus von „eindeutiger Kinderpornografie“auf „Kind ohne T-Shirt“ausgeweitet wurde. Das System hätte letztlich jeden Eltern-Familienchat mit harmlosen Kinderfotos als verdächtig eingestuft.

Wer kontrolliert die Kontrolleure?

Besonders problematisch: Die EU-Kommission schlägt vor, dass Privatunternehmen diese Vorabkontrollen durchführen sollen – nicht Polizeibehörden. Ausgerechnet Konzerne wie Meta (Facebook, WhatsApp) oder Google, die bereits jetzt:

• Omnipräsente Marktmacht besitzen
• In manchen Ländern faktisch mit „Internet“ gleichgesetzt werden
• Algorithmen nutzen, um Meinungen gezielt zu beeinflussen
• Regelmäßig gegen Datenschutzbestimmungen verstoßen

Diese Unternehmen mit der Aufdeckung von Kriminalität zu betrauen, während sie selbst systematisch Rechtsverstöße begehen, ist absurd. Diese Konzerne betreiben organisiertes Verbrechen im digitalen Raum – sie brechen bewusst und weltweit Gesetze und winden sich bei Anhörungen mit Ausreden wie „das war der Algorithmus“aus der Verantwortung.

Alle sind betroffen – nicht nur Messenger-Nutzer

Wer glaubt, ohne Facebook oder WhatsApp sicher zu sein, irrt. Fast jeder nutzt:

• Android-Smartphones mit Google-Diensten
• Die Google-Sprachsuche
• Windows von Microsoft
• Ein iPhone von Apple

Bei all diesen Diensten würde die Chatkontrolle greifen. Eine harmlose Suchanfrage wie „Hilft die Chat-Kontrolle wirksam gegen Kinderpornografie?“ könnte bereits einen Alarm auslösen, weil das Wort „Kinderpornografie“vorkommt.

Das eigentliche Problem: Fehlende Abschreckung

Die wahre Ursache für mangelnde Verbrechensbekämpfung liegt nicht in fehlenden Überwachungsmöglichkeiten, sondern in der fehlenden Abschreckung und konsequenten Strafverfolgung.

Datenschutzbehörden versagen

Ein erschreckendes Beispiel: Die hessische Datenschutzbehörde verweigert faktisch die Arbeit. Bei Beschwerden erfolgt oft nicht einmal eine Antwort. Behördenvertreter verweisen auf ihre nahende Pension und möchten „kein aufregendes Leben mehr führen“.

Millionenfache Verstöße durch illegales Webtracking finden täglich in Deutschland statt – keine einzige deutsche Datenschutzbehörde hat bisher ein Bußgeld dafür verhängt. Wenn Verstöße ohne Konsequenzen bleiben, sind aufwendige Überwachungsmechanismen vollkommen nutzlos.

Gerichte ignorieren EU-Recht

Auch die deutsche Justiz versagt beim Datenschutz. Gerichte:

• Wenden deutsches statt strengeres EU-Recht an
• Verweisen Kläger zwischen Behörden und Gerichten hin und her
• Ignorieren grundlegende Prinzipien der DSGVO

Der Europäische Gerichtshof muss regelmäßig in jahrelangen Verfahren Selbstverständlichkeiten klarstellen, die jedes deutsche Gericht von Anfang an hätte erkennen können.

Künstliche Intelligenz macht die Chatkontrolle obsolet

Verbrecher sind nicht dumm. Mit moderner KI lassen sich problemlos tausende Bilder generieren, die Algorithmen als verdächtig einstufen würden. Durch massenhaftes Fluten des Systems mit Fehlalarmen würde die gesamte Überwachungsinfrastruktur zusammenbrechen – genau wie ein Wachmann, der siebenmal den Fehlalarm wegdrückt und beim achten Mal den echten Ausbruch verpasst.

Was Unternehmen jetzt tun müssen

Deutsche Unternehmen, die einst Kameras in Produktionshallen aus Angst vor Wirtschaftsspionage verboten haben, arbeiten heute kritiklos mit Google- und Microsoft-Produkten. Sie geben bereitwillig ihre komplette Unternehmens-Intelligenz in die Hände milliardenschwerer Konzerne und machen sich abhängig von deren Preispolitik und unzureichendem Support.

Es gibt Alternativen!

Für fast jeden Anwendungsfall existieren Alternativen zu Microsoft, Google und Co. Unternehmen sollten:

• Zeit in die Suche nach alternativen Produkten investieren
• Eigene Lösungen entwickeln (ja, das ist erlaubt!)
• Mitarbeiter für Datenschutz sensibilisieren
• Technische Kompetenz im eigenen Haus aufbauen

Die Lösung: Abschreckung und Entbürokratisierung

Statt immer mehr Überwachung brauchen wir:

1. Wirksame Abschreckung durch konsequente Strafverfolgung
2. Funktionierende Datenschutzbehörden mit Durchsetzungswillen
3. Gerichte, die EU-Recht korrekt anwenden
4. Entbürokratisierung, damit Verfahren nicht jahrelang dauern
5. Bildung und Sensibilisierung für digitale Themen

Wenn zwei oder drei Unternehmen wegen Datenschutzverstößen empfindlich bestraft würden, hätte das mehr Wirkung als jede präventive Überwachung. Viele würden sich überlegen, ob sie ihre Facebook-Fanpage wirklich brauchen – das Beschwerdeaufkommen bei Behörden würde automatisch sinken.

Fazit: Digitale Freiheit verteidigen

Die Chatkontrolle ist ein gefährlicher Angriff auf unsere digitale Freiheit und Privatsphäre. Sie wird nicht effektiv gegen Kriminalität helfen, aber massenhaft Grundrechte verletzen und normale Bürger unter Generalverdacht stellen.

Wir haben bereits Gesetze und Werkzeuge zur Verbrechensbekämpfung – wir müssen sie nur endlich konsequent anwenden. Die Digitalisierung ist der wichtigste Wirtschaftsfaktor unserer Zeit. Es ist höchste Zeit, dass Politik, Justiz und Behörden das verstehen und ihrer Verantwortung gerecht werden.

Das Internet ist kein Neuland mehr – und Internetverstöße sind echte Verstöße, die ernst genommen werden müssen. Nicht durch Massenüberwachung, sondern durch rechtsstaatliche Prinzipien: Abschreckung, Konsequenz und den Schutz unserer Grundrechte.