Chattkontroll: Hur EU äventyrar vår digitala frihet

Robotar, datorer och algoritmer tjänar inte oss, utan vi tjänar dem. De har oss under ständig kontroll, mäter allt vi gör och räknar ut hur de kan få ut ännu mer av oss." Dessa provocerande ord av teknikexperten Gunter Düeck beskriver på ett träffande sätt vad vi är på väg mot – särskilt om man får tro vissa EU-politiker.

Inledning

Sammanfattning av sammanhanget till källtexten: Chatkontrollen: Hur EU hotar vår digitala frihet "Maskiner, datorer och algoritmer tjänar inte oss, vi tjänar dem. De har oss permanent under kontroll, mäter allt vi gör och beräknar hur de kan utvinna ännu mer från oss." Med dessa provocerande ord av teknologikännaren Gunter Düeck beskriver man på ett tillfredsställande sätt vad vi är på väg mot – särskilt om det är enligt planerna hos vissa EU-politiker. Översättningen av källtexten till svenska: Denna artikel kompletterar privacy Deluxe-podden #26 Chatbots använda: för vad och bättre inte? Temat har blivit aktuell igen, efter att det varit en stund sedan det senaste nyheterna om chatkontrollen. I detta inlägg diskuteras allmänt om problemet med att övervaka chatten i stor skala. Det finns ännu inga beslut om en sådan övervakning kommer eller hur den ska utformas. Diskussionen handlar om att värdera text och ljudspår, men inte bilder.

Du kan lyssna på podcasten här:

Podcasten Dataskydd deluxe drivs lokalt på Dr. GDPR. Podigee-plattformen kommer inte längre att användas. Istället migrerades den tidigare podcasten automatiskt till en lokal version. Tack vare AI-support gick detta smidigt.

Vad är chattkontroll?

Sedan flera år tillbaka diskuterar EU-kommissionen ett lagförslag som skulle undergräva krypteringstekniken i messenger-tjänster och alla elektroniska kommunikationstjänster under förevändningen att man vill bekämpa brottslighet – särskilt barnpornografi och nätgrooming. Omkring tio EU-länder stöder för närvarande denna strävan efter allomfattande övervakning.

Motståndarna hävdar att denna så kallade chattkontroll går långt utöver integriteten och de grundläggande rättigheterna i vår demokratiska ordning. Men vad skulle det betyda rent konkret om regeringar när som helst och utan större förevändningar kunde avlyssna privat kommunikation i chattar, messenger-tjänster och e-post?

Problemet med skanning på klientsidan

Den planerade mekanismen kallas "skanning på klientsidan". En automatisk skanning ska äga rum direkt på slutenheten – dvs. på din smartphone eller dator. Syftet är att kontrollera om vissa nyckelord används som kan kopplas till kriminell verksamhet eller om semantiken i kommunikationen verkar misstänkt.

Problemet med falska alarm

Det största problemet: det kommer att bli otaliga falska alarm. Ett harmlöst exempel illustrerar absurditeten: föräldrar som skickar ett foto av sitt nakna barn på stranden till familjemedlemmar kan automatiskt bli måltavlor. Algoritmen känner igen "naket barn" – och chatten dirigeras omedelbart ut och kontrolleras.

Situationen liknar problemet med billarm: om ett larm fortsätter att gå utan någon egentlig anledning är det ingen som tar det på allvar längre. När det gäller chattkontroll skulle det förmodligen vara 99 procent falsklarm och kanske en procent faktiskt misstänkta fall.

Apples CSAM-skandal som en varning

Apple har redan utvecklat och testat en sådan mekanism. Den så kallade CSAM-affären (Child Sexual Abuse Material) visade tydligt hur problematisk denna teknik är:

• Bilderna överfördes automatiskt till Apples servrar i krypterad form
• En jämförelse med en databas genomfördes – innan användaren ens hade skickat meddelandet
• Systemet har blivit allt känsligare med tiden

En intern visselblåsare på Apple rapporterade att fokus hade utvidgats från "explicit barnpornografi" till "barn utan T-shirt". Systemet skulle i slutändan ha kategoriserat alla chattar mellan föräldrar och familj med harmlösa bilder på barn som misstänkta.

Vem kontrollerar kontrollanterna?

Sammanfattning av sammanhanget till källtexten: EU-kommissionen föreslår att privata företag ska genomföra dessa förhandskontroller – inte polismyndigheter. Just företag som Meta (Facebook, WhatsApp) eller Google, som redan nu… Översättningen till svenska: Särskilt problematiskt är att EU-kommissionen föreslår att privata företag ska genomföra dessa förhandskontroller – inte polismyndigheter. Just företag som Meta (Facebook, WhatsApp) eller Google, som redan nu:

• Allestädes närvarande marknadsmakt
• I vissa länder kommer detta i praktiken att likställas med "internet
• Använda algoritmer för att påverka åsikter på ett målinriktat sätt
• Regelbundna brott mot dataskyddsbestämmelserna

Det är absurt att anförtro dessa företag uppgiften att avslöja brott samtidigt som de själva systematiskt begår brott. Dessa företag ägnar sig åt organiserad brottslighet i det digitala rummet – de bryter medvetet mot lagar världen över och slingrar sig undan ansvar vid utfrågningar med ursäkter som "det var algoritmen".

Alla påverkas – inte bara Messenger-användare

Den som tror att han eller hon är säker utan Facebook eller WhatsApp har fel. Nästan alla använder dem:

• Android-smartphones med Google-tjänster
• Googles röststyrda sökning
• Windows från Microsoft
• En iPhone från Apple

Chattkontroll skulle gälla för alla dessa tjänster. En harmlös sökfråga som "Hjälper chattkontroll effektivt mot barnpornografi?" kan redan utlösa ett larm eftersom ordet "barnpornografi" förekommer.

Det verkliga problemet: brist på avskräckning

Den riktiga orsaken till att brottsbekämpningen inte fungerar ligger inte i bristen på övervakningsmöjligheter, utan i bristande avskräckning och konsekvent straffverkställighet.

Dataskyddsmyndigheterna misslyckas

Ett skrämmande exempel: Hessens dataskyddsmyndighet vägrar i praktiken att göra sitt jobb. Klagomål besvaras ofta inte ens. Representanter för myndigheten hänvisar till att de snart ska gå i pension och "inte längre vill leva ett spännande liv".

Miljontals överträdelser genom olagligt webbtracking sker dagligen i Tyskland – inget enda tyskt dataskyddsnämnd har hittills utdömt en straffavgift för detta. Om överträdelserna inte får några konsekvenser är de omfattande övervakningsmekanismerna helt meningslösa.

Domstolar ignorerar EU-lagstiftning

Det tyska rättsväsendet misslyckas också när det gäller dataskydd. Domstolar:

• Tillämpa tysk lag i stället för strängare EU-lagar
• Med hänvisning till klagande fram och tillbaka mellan myndigheter och domstolar
• Ignorera de grundläggande principerna i GDPR

EU-domstolen måste regelbundet klargöra självklara fakta under åratal av förfaranden som vilken tysk domstol som helst skulle ha kunnat erkänna från början.

Artificiell intelligens gör chattkontroll överflödig

Brottslingar är inte dumma. Modern AI kan enkelt generera tusentals bilder som algoritmer skulle kategorisera som misstänkta. Genom att översvämma systemet med falska larm i massor skulle hela övervakningsinfrastrukturen kollapsa – precis som en säkerhetsvakt som skjuter bort det falska larmet sju gånger och missar det verkliga utbrottet den åttonde.

Vad företagen behöver göra nu

Tyska företag som en gång i tiden förbjöd kameror i produktionshallarna av rädsla för industrispionage arbetar nu okritiskt med Googles och Microsofts produkter. De lägger villigt hela sin företagsinformation i händerna på miljardföretag och gör sig beroende av deras prispolitik och otillräckliga stöd.

Det finns alternativ!

Det finns alternativ till Microsoft, Google och andra företag för nästan alla användningsområden:

• Investera tid i sökandet efter alternativa produkter
• Utveckla våra egna lösningar (yes, det är tillåtet!)
• Sensibilisera medarbetarna för dataskydd
• Bygga upp teknisk expertis internt

Lösningen: avskräckning och mindre byråkrati

Istället för mer och mer övervakning behöver vi:

1. Effektivt avskräckningssystem genom konsekvent straffrättlig efterlevnad
2. Fungerande dataskyddmyndigheter med genomslagsvilja
3. Domstolar, som tillämpar EU-rätten på rätt sätt
4. Avbyråkratisering, så att förfaranden inte varar i åratal
5. Bildning och upplysning för digitala frågor

Om två eller tre företag skulle straffas hårt för brott mot dataskyddet skulle det få större effekt än någon förebyggande övervakning. Många människor skulle fundera en extra gång på om de verkligen behöver sin Facebook-fansida – antalet klagomål till myndigheterna skulle automatiskt minska.

Slutsats: Försvara den digitala friheten

Chattkontroll är en farlig attack mot vår digitala frihet och integritet. Det kommer inte att bidra till en effektiv brottsbekämpning, utan kommer att kränka grundläggande rättigheter i stor skala och göra vanliga medborgare allmänt misstänkta.

Vi har redan lagar och verktyg för att bekämpa brott – vi behöver bara äntligen tillämpa dem konsekvent. Digitaliseringen är vår tids viktigaste ekonomiska faktor. Det är hög tid att politiker, rättsväsendet och myndigheter förstår detta och tar sitt ansvar.

Internet är inte längre okänd mark – och brott på Internet är verkliga brott som måste tas på allvar. Inte genom massövervakning, utan genom rättsstatens principer: Avskräckning, konsekvens och skydd av våra grundläggande rättigheter.