Chatcontrole: Hoe de EU onze digitale vrijheid in gevaar brengt

Robots, computers en algoritmen dienen ons niet, wij dienen hen. Ze hebben ons constant onder controle, meten alles wat we doen en berekenen hoe ze nog meer uit ons kunnen halen." Deze provocerende woorden van technologie-expert Gunter Düeck beschrijven treffend waar we op afstevenen – zeker als we afgaan op de plannen van sommige EU-politici.

Inleiding

Chatkontrolle: Hoe de EU onze digitale vrijheid bedreigt Robots, computers en algoritmen dienen ons niet, wij dienen hen. Zij hebben ons permanent onder controle, meten alles wat we doen en berekenen hoe ze nog meer uit ons kunnen halen.“ Met deze provocerende woorden van technologie-expert Gunter Düeck laat zich treffend beschrijven waarop we aansturen – vooral als het naar de plannen van sommige EU-politici gaat. Dit artikel vult de privacy Deluxe Podcast-aflevering #26 Chatbots gebruiken: voor en tegen? aan. Het thema is weer actueel geworden, nadat er een tijdje geen nieuws what over chatkontrolle. In dit artikel bespreken we in het algemeen de problematiek om chatten massaal te willen overwegen. Op dit moment zijn er nog geen beslissingen genomen of zo'n overwachting komt of hoe ze zullen worden gedaan. Het gesprek draait om tekst- en audiosporen niet uit te waarderen, maar wel om beelden.

U kunt de podcast hier beluisteren:

De gegevensbescherming deluxe podcast wordt lokaal geëxploiteerd op Dr. GDPR. Het Podigee-platform wordt niet langer gebruikt. In plaats daarvan werd de vorige podcast automatisch gemigreerd naar een lokale versie. Dankzij de ondersteuning van AI verliep dit probleemloos.

Wat is chatcontrole?

Al enkele jaren bespreekt de EU Commissie een wetsvoorstel dat encryptietechnologieën in messenger-diensten en alle elektronische communicatiediensten zou ondermijnen onder het mom van het bestrijden van criminaliteit – in het bijzonder kinderpornografie en cyber-grooming. Ongeveer tien EU-lidstaten steunen momenteel dit initiatief ten gunste van alomvattende surveillance.

Tegenstanders beweren dat deze zogenaamde chatcontrole veel verder gaat dan de privacy en grondrechten van onze democratische orde. Maar wat zou het concreet betekenen als regeringen in staat zouden zijn om privécommunicatie in chats, messengerdiensten en e-mails op elk gewenst moment te onderscheppen zonder enige pretentie?

Het probleem met client-side scanning

Het geplande mechanisme heet "client-side scanning". Een automatische scan zal direct op het eindapparaat plaatsvinden – d.w.z. op je smartphone of computer. Dit is bedoeld om te controleren of er bepaalde sleutelwoorden worden gebruikt die in verband kunnen worden gebracht met criminele activiteiten of dat de semantiek van de communicatie verdacht lijkt.

Het probleem van vals alarm

Het grootste probleem: er zullen talloze valse alarmen zijn. Een onschuldig voorbeeld illustreert de absurditeit: ouders die een foto van hun naakte peuter op het strand naar familieleden sturen, kunnen automatisch een doelwit worden. Het algoritme herkent "naakt kind" – en de chat wordt onmiddellijk doorgestuurd en gecontroleerd.

Deze situatie is vergelijkbaar met het probleem met autoalarmen: als een alarm zonder echte reden blijft afgaan, neemt niemand het meer serieus. In het geval van chatcontrole zou het waarschijnlijk 99 procent vals alarm zijn en misschien één procent echt verdachte gevallen.

Apple's CSAM-schandaal als waarschuwing

Apple heeft al een dergelijk mechanisme ontwikkeld en getest. De zogenaamde CSAM-affaire (Child Sexual Abuse Material) heeft duidelijk gemaakt hoe problematisch deze technologie is:

• Afbeeldingen werden automatisch versleuteld verzonden naar Apple servers
• Een vergelijking met een database vond plaats – voordat de gebruiker de bericht al had verstuurd had
• Het systeem is in de loop der tijd steeds gevoeliger geworden

Een interne klokkenluider bij Apple meldde dat de focus what uitgebreid van "expliciete kinderpornografie" naar "kind zonder T-shirt". Het systeem zou uiteindelijk elke ouder-familiechat met onschuldige foto's van kinderen als verdacht hebben gecategoriseerd.

Wie controleert de controllers?

Chatcontrole: Hoe de EU onze digitale vrijheid bedreigt Robots, computers en algoritmen dienen niet ons, wij dienen hen. Zij hebben ons permanent onder controle, meten alles wat we doen en berekenen hoe ze nog meer uit ons kunnen halen.“ Met deze provocerende woorden van technologie-expert Gunter Düeck laat zich treffend beschrijven waarop we aansturen – vooral als het naar de plannen van sommige EU-politici gaat. Vooral problematisch: De EU-commissie stelt voor dat privébedrijven deze voorafgaande controles moeten doorvoeren – niet politiekorpsen. Uitgerekend bedrijven als Meta (Facebook, WhatsApp) of Google, die al nu:

• Alomtegenwoordige marktmacht
• In sommige landen wordt dit gelijkgesteld aan het "internet"
• Algoritmen gebruiken om meningen gericht te beïnvloeden
• Regelmatig de regels voor gegevensbescherming overtreden

Het is absurd om deze bedrijven de taak toe te vertrouwen om criminaliteit op te sporen terwijl ze zelf systematisch misdrijven plegen. Deze bedrijven houden zich bezig met georganiseerde misdaad in de digitale ruimte – ze overtreden wereldwijd opzettelijk wetten en onttrekken zich tijdens hoorzittingen aan hun verantwoordelijkheid met excuses als "het what het algoritme".

Iedereen is betrokken – niet alleen gebruikers van Messenger

Iedereen die denkt veilig te zijn zonder Facebook of WhatsApp heeft het mis. Bijna iedereen gebruikt ze:

• Android-smartphones met Google-diensten
• De Google spraakbesturing
• Windows van Microsoft
• Een iPhone van Apple

Chatcontrole zou van toepassing zijn op al deze diensten. Een onschuldige zoekopdracht zoals "Helpt chatcontrole effectief tegen kinderpornografie?" kan al alarm slaan omdat het woord "kinderpornografie" verschijnt.

Het echte probleem: gebrek aan afschrikking

De ware oorzaak voor het gebrek aan bestrijding van criminaliteit ligt niet in de ontbrekende mogelijkheden tot overwachting, maar in de gebrekkige afschrikking en consequente vervolging.