Controllo delle chat: come l'UE sta mettendo a rischio la nostra libertà digitale

I robot, i computer e gli algoritmi non servono a noi, siamo noi a servire loro. Ci tengono costantemente sotto controllo, misurano tutto ciò che facciamo e calcolano come ottenere ancora di più da noi". Queste parole provocatorie dell'esperto di tecnologia Gunter Düeck descrivono perfettamente ciò verso cui ci stiamo dirigendo, soprattutto se i piani di alcuni politici dell'Unione europea sono di buon auspicio.

Introduzione

Il controllo dei chat: come l'UE sta mettendo a rischio la nostra libertà digitale "Robot, computer e algoritmi non servono noi, ma noi li serviamo. Hanno sempre sotto controllo, misurano tutto ciò che facciamo e calcolano come possono ancora più da noi trarre vantaggio." Con queste parole provocatorie dell'esperto di tecnologia Gunter Düeck si può descrivere con precisione verso cosa stiamo andando a finire – soprattutto se si pensa ai piani dei politici europei. Questo articolo completa la podcast "privacy Deluxe" #26 Chatbots utilizzano: per cosa e meglio non farlo? Il tema è diventato nuovamente attuale, dopo un po' di tempo in cui non erano state date notizie sul controllo dei chat. In questo articolo discutiamo generalmente della problematica di voler controllare i chat a larghissima scala. Attualmente non c'è ancora una decisione su se tale controllo verrà o come verrà gestito. È in discussione l'idea di valutare testi e registrazioni audio, ma non immagini.

Potete ascoltare il podcast qui:

Il podcast deluxe sulla protezione dei dati viene gestito localmente su Dr. GDPR. La piattaforma Podigee non sarà più utilizzata. Il podcast precedente è stato invece migrato automaticamente a una versione locale. Grazie al supporto di AI, l'operazione si è svolta senza problemi.

Che cos'è il controllo delle chat?

Da diversi anni la Commissione europea sta discutendo un progetto di legge che, con il pretesto di combattere la criminalità – in particolare la pedopornografia e il cyber-grooming – minerebbe le tecnologie di crittografia nei servizi di messaggeria e in tutti i servizi di comunicazione elettronica. Circa dieci Stati membri dell'UE sostengono attualmente questa iniziativa a favore di una sorveglianza totale.

Gli oppositori sostengono che questo cosiddetto controllo delle chat va ben oltre la privacy e i diritti fondamentali del nostro ordinamento democratico. Ma cosa significherebbe concretamente se i governi fossero in grado di intercettare le comunicazioni private nelle chat, nei servizi di messaggeria e nelle e-mail in qualsiasi momento e senza grandi pretese?

Il problema della scansione lato client

Il meccanismo previsto si chiama "scansione lato client". Una scansione automatica avverrà direttamente sul dispositivo finale, ovvero sullo smartphone o sul computer. Lo scopo è quello di verificare se vengono utilizzate determinate parole chiave che potrebbero essere associate ad attività criminali o se la semantica della comunicazione appare sospetta.

Il problema dei falsi allarmi

Il problema principale è che ci saranno innumerevoli falsi allarmi. Un esempio innocuo ne illustra l'assurdità: i genitori che inviano ai familiari una foto del loro bambino nudo in spiaggia potrebbero essere automaticamente presi di mira. L'algoritmo riconosce "bambino nudo" e la chat viene immediatamente eliminata e controllata.

La situazione è simile al problema degli allarmi delle auto: se un allarme continua a suonare senza una vera ragione, nessuno lo prende più sul serio. Nel caso del controllo delle chat, si tratterebbe probabilmente del 99% di falsi allarmi e forse dell'1% di casi effettivamente sospetti.

Lo scandalo CSAM di Apple come avvertimento

Apple ha già sviluppato e testato un meccanismo di questo tipo. Il cosiddetto caso CSAM (Child Sexual Abuse Material) ha reso evidente quanto sia problematica questa tecnologia:

• Le immagini sono state trasmesse automaticamente ai server Apple in forma criptata
• Un confronto con una banca dati è stato effettuato – prima che l'utente avesse inviato il messaggio
• Il sistema è diventato sempre più sensibile nel tempo

Un informatore interno di Apple ha riferito che l'attenzione è stata ampliata dalla "pornografia infantile esplicita" al "bambino senza maglietta". In definitiva, il sistema avrebbe classificato come sospette tutte le chat tra genitori e famiglie con foto innocue di bambini.

Chi controlla i controllori?

Privati aziende dovrebbero eseguire queste controlli preventivi – non le autorità di polizia. Proprio quelle multinazionali come Meta (Facebook, WhatsApp) o Google che già ora:

• Possedere un potere di mercato onnipresente
• In alcuni Paesi, questo sarà effettivamente equiparato a "Internet"
• Utilizzare gli algoritmi per influenzare le opinioni in modo mirato
• Violazione regolare delle norme sulla protezione dei dati

È assurdo affidare a queste aziende il compito di scoprire il crimine mentre esse stesse commettono sistematicamente reati. Queste aziende sono impegnate nel crimine organizzato nello spazio digitale – infrangono deliberatamente le leggi in tutto il mondo e si sottraggono alle responsabilità durante le udienze con scuse come "è stato l'algoritmo".

Tutti sono coinvolti, non solo gli utenti di Messenger

Chiunque pensi di essere al sicuro senza Facebook o WhatsApp si sbaglia. Quasi tutti li usano:

• Cell phone Android con servizi Google
• La ricerca vocale di Google
• Windows di Microsoft
• Un iPhone di Apple

Il controllo delle chat si applicherebbe a tutti questi servizi. Una ricerca innocua come "Il controllo della chat aiuta efficacemente contro la pedopornografia?" potrebbe già far scattare un allarme perché compare la parola "pedopornografia".

Il vero problema: la mancanza di deterrenza

La vera causa per cui la repressione dei reati non funziona è non nelle mancanze di possibilità di sorveglianza, ma nella mancanza di scoraggiamento e nella repressione consequenziale.

Le autorità di protezione dei dati stanno fallendo

Un esempio spaventoso: l'autorità per la protezione dei dati dell'Assia si rifiuta di fatto di fare il suo lavoro. Spesso i reclami non ricevono nemmeno risposta. I rappresentanti dell'autorità fanno riferimento al fatto che stanno per andare in pensione e "non vogliono più condurre una vita eccitante".

Millioni di violazioni quotidiane di tracciamento illegale online avvengono ogni giorno in Germania – nessuna autorità tedesca per la protezione dei dati personali ha ancora emesso un'ammenda per questo. Se le violazioni non hanno conseguenze, allora i meccanismi di sorveglianza complessivi sono completamente inutili.

I tribunali ignorano il diritto dell'UE

Anche il sistema giudiziario tedesco sta fallendo quando si tratta di protezione dei dati. Tribunali:

• Applicare la legge tedesca invece di una più severa legge dell'UE
• Riferendosi a ricorrenti che fanno la spola tra autorità e tribunali
• Ignorare i principi fondamentali del GDPR

La Corte di giustizia europea deve regolarmente chiarire fatti evidenti nel corso di anni di procedimenti che qualsiasi tribunale tedesco avrebbe potuto riconoscere fin dall'inizio.

L'intelligenza artificiale rende obsoleto il controllo delle chat

I criminali non sono stupidi. La moderna AI può facilmente generare migliaia di immagini che gli algoritmi classificherebbero come sospette. Inondando il sistema di falsi allarmi in massa, l'intera infrastruttura di sorveglianza crollerebbe, proprio come una guardia di sicurezza che allontana il falso allarme per sette volte e non vede la vera evasione l'ottava volta.

Cosa devono fare le aziende ora

Le aziende tedesche che un tempo vietavano le telecamere nei capannoni di produzione per paura dello spionaggio industriale, oggi lavorano acriticamente con i prodotti di Google e Microsoft. Mettono volentieri la loro intera intelligence aziendale nelle mani di società miliardarie e si rendono dipendenti dalle loro politiche di prezzo e dall'assistenza inadeguata.

Le alternative ci sono!

Esistono alternative a Microsoft, Google e altre aziende per quasi tutti i casi d'uso:

• Investire tempo nella ricerca di prodotti alternativi
• Sviluppare le nostre soluzioni (sì, è permesso!)
• Sensibilizzare i dipendenti alla protezione dei dati
• Creare competenze tecniche all'interno dell'azienda

La soluzione: deterrenza e meno burocrazia

Invece di una sorveglianza sempre maggiore, abbiamo bisogno di:

1. Difesa efficace attraverso la repressione rigorosa
2. Funzionanti autorità per la protezione dei dati con volontà di applicazione
3. Tribunali, che applichino correttamente il diritto dell'UE
4. Semplificazione burocratica, per evitare che i procedimenti durino anni
5. Formazione e sensibilizzazione per temi digitali

Se due o tre aziende venissero severamente sanzionate per violazioni della protezione dei dati, l'impatto sarebbe maggiore di qualsiasi sorveglianza preventiva. Molte persone penserebbero due volte se hanno davvero bisogno della loro pagina fan su Facebook – il numero di reclami alle autorità diminuirebbe automaticamente.

Conclusione: difendere la libertà digitale

Il controllo delle chat è un pericoloso attacco alla nostra libertà e privacy digitale. Non servirà a contrastare efficacemente la criminalità, ma violerà i diritti fondamentali su vasta scala e metterà i normali cittadini in una condizione di generale sospetto.

Abbiamo già leggi e strumenti per combattere il crimine, dobbiamo solo applicarli in modo coerente. La digitalizzazione è il fattore economico più importante del nostro tempo. È ora che i politici, la magistratura e le autorità lo capiscano e si assumano le proprie responsabilità.

Internet non è più un territorio inesplorato e i reati su Internet sono veri e propri reati che devono essere presi sul serio. Non attraverso la sorveglianza di massa, ma attraverso i principi dello Stato di diritto: Deterrenza, coerenza e tutela dei nostri diritti fondamentali.