Chatkontrol: Hvordan EU bringer vores digitale frihed i fare

Robotter, computere og algoritmer tjener ikke os, vi tjener dem. De har os under konstant kontrol, måler alt, hvad vi gør, og beregner, hvordan de kan få endnu mere ud af os." Disse provokerende ord fra teknologieksperten Gunter Düeck beskriver meget godt, hvad vi er på vej mod – især hvis man skal tro på nogle EU-politikeres planer.

Indledning

Chatkontrolle: Hvordan EU truer vores digitale frihed Roboter, computere og algoritmer tjener ikke os, vi tjener dem. De har os under kontrolle hele tiden, måler alt, hvad vi gør og beregner, hvordan de endnu mere kan udtrække fra os.“ Med disse provokerende ord fra teknologienksperten Gunter Düeck kan man godt beskrive, hvilken vej vi er på – især hvis det følger med planerne hos nogle EU-politikere. Denne artikel supplerer privacy Deluxe Podcast-Folge #26 Chatbots bruger: til hvad og til hvad bedre ikke? Emnet er blevet aktuel igen, efter at der ikke var nogen nyheder om chatkontrolle i en periode. I denne artikel diskuterer vi generelt om problematikken med at overvåge chatten på massevis. Der er endnu ingen afgørelse om, om sådan en overvågning kommer eller hvordan den skal udformes. Diskussionen drejer sig om at vurdere tekster og lydoptræk ikke, men billeder.

Du kan lytte til podcasten her:

Databeskyttelse deluxe-podcasten drives lokalt på Dr. GDPR. Podigee-platformen vil ikke længere blive brugt. I stedet blev den tidligere podcast automatisk migreret til en lokal version. Takket være AI-support gik det glat.

Hvad er chatkontrol?

I flere år har EU-Kommissionen nu diskuteret et lovforslag, der vil underminere krypteringsteknologier i messenger-tjenester og alle elektroniske kommunikationstjenester under påskud af at bekæmpe kriminalitet – især børnepornografi og cyber-grooming. Omkring ti EU-medlemslande støtter i øjeblikket dette initiativ til fordel for altomfattende overvågning.

Modstanderne hævder, at denne såkaldte chatkontrol går langt ud over privatlivets fred og de grundlæggende rettigheder i vores demokratiske orden. Men hvad ville det helt konkret betyde, hvis regeringer til enhver tid kunne opsnappe privat kommunikation i chats, messenger-tjenester og e-mails uden de store dikkedarer?

Problemet med scanning på klientsiden

Den planlagte mekanisme kaldes "scanning på klientsiden". En automatisk scanning skal finde sted direkte på slutenheden – dvs. på din smartphone eller computer. Formålet er at kontrollere, om der bruges bestemte nøgleord, som kan forbindes med kriminelle aktiviteter, eller om semantikken i kommunikationen virker mistænkelig.

Problemet med falsk alarm

Det største problem er, at der vil være utallige falske alarmer. Et harmløst eksempel illustrerer absurditeten: Forældre, der sender et billede af deres nøgne lille barn på stranden til familiemedlemmer, kan automatisk blive ramt. Algoritmen genkender "nøgent barn" – og chatten bliver straks dirigeret ud og kontrolleret.

Denne situation svarer til problemet med bilalarmer: Hvis en alarm bliver ved med at gå i gang uden nogen egentlig grund, er der ingen, der tager den alvorligt længere. I tilfældet med chatkontrol ville det sandsynligvis være 99 procent falske alarmer og måske en procent faktisk mistænkelige tilfælde.

Apples CSAM-skandale som en advarsel

Apple har allerede udviklet og testet en sådan mekanisme. Den såkaldte CSAM-affære (Child Sexual Abuse Material) gjorde det klart, hvor problematisk denne teknologi er:

• Billederne blev automatisk overført til Apples servere i krypteret form
• En sammenligning med en database fandt sted – før brugeren overhovedet sendte beskeden
• Systemet er blevet mere og mere følsomt med tiden

En intern whistleblower hos Apple rapporterede, at fokus var blevet udvidet fra "eksplicit børnepornografi" til "barn uden T-shirt". Systemet ville i sidste ende have kategoriseret enhver chat mellem forældre og familie med harmløse billeder af børn som mistænkelig.

Hvem kontrollerer controllerne?

Chatkontrolle: Hvordan EU truer vores digitale frihed Roboter, computere og algoritmer tjener ikke os, vi tjener dem. De har os under kontrol permanent, måler alt, hvad vi gør og beregner, hvordan de endnu kan udtrække mere fra os.“ Med disse provokerende ord af teknologien expert Gunter Düeck kan man godt beskrive, hvilken vej vi er på – især hvis det følger med planerne fra nogle EU-politikere. Særligt problematisk: EU-Kommissionen foreslår, at Privatvirksomheder skal udføre disse forudgående kontroller – ikke politibestyrelser. Præcis de koncerne som Meta (Facebook, WhatsApp) eller Google, der allerede nu:

• Besidder allestedsnærværende markedsmagt
• I nogle lande vil dette i praksis blive sidestillet med "internettet"
• Brug af algoritmer til at påvirke meninger på en målrettet måde
• Regelmæssig overtrædelse af databeskyttelsesreglerne

Det er absurd at overlade opgaven med at afsløre kriminalitet til disse virksomheder, mens de selv systematisk begår lovovertrædelser. Disse virksomheder er involveret i organiseret kriminalitet i det digitale rum – de bryder bevidst love over hele verden og vrister sig fri af ansvaret ved høringer med undskyldninger som "det var algoritmen".

Alle bliver berørt – ikke kun Messenger-brugere

Enhver, der tror, at de er i sikkerhed uden Facebook eller WhatsApp, tager fejl. Næsten alle bruger dem:

• Android-smartphones med Google-tjenester
• Googles stemmesøgning
• Windows fra Microsoft
• En iPhone fra Apple

Chatkontrol vil gælde for alle disse tjenester. En harmløs søgeforespørgsel som "Hjælper chatkontrol effektivt mod børnepornografi?" kan allerede udløse en alarm, fordi ordet "børnepornografi" optræder.

Det virkelige problem: manglende afskrækkelse

Den sande årsag til manglende kriminalbekæmpelse ligger ikke i mangel på overvågningsmuligheder, men i manglende afskrækkelse og konsekvent strafferet.

Databeskyttelsesmyndighederne svigter

Et skræmmende eksempel: Den hessiske databeskyttelsesmyndighed nægter i realiteten at udføre sit arbejde. Klager bliver ofte ikke engang besvaret. Repræsentanter for myndigheden henviser til, at de snart går på pension og "ikke længere ønsker at leve et spændende liv".

Millioner af overtrædelser gennem ulovligt web-tracking finder dagligt sted i Tyskland – ingen eneste tyske dataskyddsmyndighed har tidligere udstedt en bøde for dette. Hvis overtrædelser uden konsekvenser bliver tilbage, er omfattende overvågningsmekanismer fuldstændig meningsløse.

Domstolene ignorerer EU-lovgivningen

Det tyske retsvæsen svigter også, når det gælder databeskyttelse. Domstolene:

• Anvend tysk lov i stedet for strengere EU-lov
• Henvisning af sagsøgere frem og tilbage mellem myndigheder og domstole
• Ignorerer de grundlæggende principper i GDPR

EU-Domstolen skal jævnligt afklare selvindlysende kendsgerninger gennem flere års sagsbehandling, som enhver tysk domstol kunne have anerkendt fra starten.

Kunstig intelligens gør chatkontrol overflødig

Kriminelle er ikke dumme. Moderne AI kan nemt generere tusindvis af billeder, som algoritmer vil kategorisere som mistænkelige. Ved at oversvømme systemet med falske alarmer i massevis vil hele overvågningsinfrastrukturen bryde sammen – ligesom en sikkerhedsvagt, der skubber den falske alarm væk syv gange og overser det rigtige indbrud den ottende gang.

Hvad virksomheder skal gøre nu

Tyske virksomheder, som engang forbød kameraer i produktionshallerne af frygt for industrispionage, arbejder nu ukritisk med Google- og Microsoft-produkter. De lægger frivilligt hele deres virksomhedsintelligens i hænderne på milliardforetagender og gør sig afhængige af deres prispolitik og utilstrækkelige support.

Der findes alternativer!

Der findes alternativer til Microsoft, Google og andre virksomheder i næsten alle tilfælde:

• Invester tid i at finde alternative produkter
• Udvikling af vores egne løsninger (ja, det er tilladt!)
• Bevidstgørelse af medarbejderne om databeskyttelse
• Opbygning af teknisk ekspertise in-house

Løsningen: afskrækkelse og mindre bureaukrati

I stedet for mere og mere overvågning har vi brug for:

1. Effektiv afskrækkelse ved konsekvent efterfølgende straffeprocesse
2. Fungerende dataskyddsmyndigheder med vilje til at gennemføre
3. Domstolene, der anvender EU-rettigheder korrekt
4. Udbetaling af byrderne, så procedurer ikke varer år efter år
5. Uddannelse og opmærksomhed for digitale emner

Hvis to eller tre virksomheder blev straffet hårdt for overtrædelser af databeskyttelsen, ville det have større effekt end nogen form for forebyggende overvågning. Mange mennesker ville overveje, om de virkelig har brug for deres Facebook-fanside – antallet af klager til myndighederne ville automatisk falde.

Konklusion: Forsvar for digital frihed

Chatkontrol er et farligt angreb på vores digitale frihed og privatliv. Det vil ikke hjælpe effektivt mod kriminalitet, men vil krænke grundlæggende rettigheder i stor skala og sætte normale borgere under generel mistanke.

Vi har allerede love og værktøjer til at bekæmpe kriminalitet – vi skal bare endelig anvende dem konsekvent. Digitalisering er den vigtigste økonomiske faktor i vores tid. Det er på høje tid, at politikere, retsvæsenet og myndighederne forstår det og lever op til deres ansvar.

Internettet er ikke længere ukendt territorium – og internetovertrædelser er reelle overtrædelser, som skal tages alvorligt. Ikke gennem masseovervågning, men gennem retsstatens principper: Afskrækkelse, konsekvens og beskyttelse af vores grundlæggende rettigheder.