Les robots, les ordinateurs et les algorithmes ne nous servent pas, nous les servons. Ils nous contrôlent en permanence, mesurent tout ce que nous faisons et calculent comment ils peuvent tirer encore plus de nous". Ces mots provocateurs de l'expert en technologie Gunter Düeck décrivent parfaitement ce vers quoi nous nous dirigeons – surtout si l'on en croit les projets de certains politiciens européens.
Introduction
La surveillance de chat: Comment l'UE menace notre liberté numérique «Les robots, les ordinateurs et les algorithmes ne servent pas nous, nous servons eux. Ils nous surveillent en permanence, mesurent tout ce que nous faisons et calculent comment ils peuvent encore plus tirer parti de nous.» Avec ces mots provocateurs du spécialiste des technologies Gunter Düeck, on peut parfaitement décrire dans quoi nous sommes en train de nous engager – surtout si l'on se réfère aux projets de certains politiciens de l'UE. Ce texte complète l'épisode #26 de la série "privacy Deluxe" (La protection des données deluxe) intitulé Chatbots utilisent: à quoi bon et à quoi ne pas servir ? Le sujet est redevenu d'actualité, après un certain temps sans nouvelles sur la surveillance de chat. Dans cet article, nous discutons en général du problème de vouloir surveiller massivement les chats. Actuellement, il n'y a pas encore de décision quant à l'existence ou à la forme que prendra cette surveillance. On discute de ne pas évaluer des textes et des pistes audio, mais plutôt des images.
Vous pouvez écouter le podcast ici:
Le podcast de protection des données Deluxe est exploité localement sur Dr. La plateforme Podigee ne sera plus utilisée. Au lieu de cela, l'ancien podcast a été migré de manière automatisée vers une version locale. Grâce au soutien de l'IA, cette opération s'est déroulée sans problème.
Qu'est-ce que le contrôle du chat ?
Depuis plusieurs années, un projet de loi de la Commission européenne prévoit l'érosion des technologies de cryptage dans les services de messagerie et tous les services de communication électronique, sous prétexte de lutter contre la criminalité, notamment la pornographie enfantine et le cyber-grooming. Actuellement, une dizaine d'États membres de l'UE soutiennent cette initiative de surveillance généralisée.
Les opposants argumentent que ce soi-disant contrôle du chat va bien au-delà de la vie privée et des droits fondamentaux de notre ordre démocratique. Mais qu'est-ce que cela signifierait concrètement si les gouvernements pouvaient à tout moment et sans grand prétexte intercepter les communications privées dans les chats, les services de messagerie et les e-mails ?
Le problème du scanning côté client
Le mécanisme prévu s'appelle "Client-Side-Scanning". Il s'agit d'effectuer un scan automatique directement sur le terminal, c'est-à-dire sur votre smartphone ou votre ordinateur. Celui-ci doit vérifier si certains mots-clés sont utilisés, qui pourraient être liés à des activités criminelles, ou si la sémantique de la communication semble suspecte.
Le problème des fausses alertes
Le plus gros problème: il y aura d'innombrables fausses alertes. Un exemple anodin illustre l'absurdité: les parents qui envoient une photo de leur petit enfant nu à la plage à des membres de leur famille pourraient être automatiquement ciblés. L'algorithme reconnaît "enfant nu" – et le chat est déjà détourné et vérifié.
Cette situation ressemble au problème des alarmes de voiture: si une alarme se déclenche constamment sans raison réelle, plus personne ne la prend au sérieux. Dans le cas du contrôle du chat, il y aurait probablement 99 pour cent de fausses alertes et peut-être un pour cent de cas réellement suspects.
Le scandale CSAM d'Apple comme avertissement
Apple a déjà développé et testé un tel mécanisme. L'affaire dite CSAM (Child Sexual Abuse Material) a montré à quel point cette technologie est problématique:
- Les images ont été automatiquement transmises sous forme cryptée aux serveurs d'Apple
- Une comparaison avec une base de données a eu lieu – avant que l'utilisateur n'ait envoyé le message en question
- Le système est devenu de plus en plus sensible au fil du temps
Un lanceur d'alerte interne à Apple a rapporté que l'accent avait été mis non plus sur la "pornographie enfantine manifeste" mais sur "l'enfant sans T-shirt". Le système aurait fini par considérer comme suspecte toute discussion familiale entre parents avec des photos d'enfants inoffensives.
Qui contrôle les contrôleurs ?
Privatunternehmen devraient effectuer ces contrôles préalables – pas les autorités de police. C'est précisément des entreprises comme Meta (Facebook, WhatsApp) ou Google qui:
- Posséder un pouvoir de marché omniprésent
- Être assimilé de fait à "Internet" dans certains pays
- Utiliser des algorithmes pour influencer les opinions de manière ciblée
- Violation régulière des règles de protection des données
Confier à ces entreprises la détection de la criminalité alors qu'elles commettent elles-mêmes des violations systématiques de la loi est absurde. Ces entreprises pratiquent le crime organisé dans l'espace numérique – elles enfreignent délibérément les lois dans le monde entier et se défaussent de leurs responsabilités lors des auditions en invoquant des excuses telles que "c'était l'algorithme".
Tout le monde est concerné – pas seulement les utilisateurs de Messenger
Ceux qui pensent être en sécurité sans Facebook ou WhatsApp se trompent. Presque tout le monde utilise:
- Smartphones Android avec services Google
- La recherche vocale de Google
- Windows de Microsoft
- Un iPhone d'Apple
Le contrôle du chat s'appliquerait à tous ces services. Une requête de recherche anodine telle que "Le contrôle du chat est-il efficace contre la pornographie enfantine" pourrait déjà déclencher une alarme parce que le mot "pornographie enfantine" y figure.
Le vrai problème: l'absence de dissuasion
La vraie cause du manque de lutte contre la criminalité ne réside pas dans les possibilités d'surveillance, mais dans le manque d'intimidation et une poursuite judiciaire conséquente.
Les autorités de protection des données échouent
Un exemple effrayant: l'autorité de protection des données du Land de Hesse refuse en fait de travailler. Les plaintes ne reçoivent souvent même pas de réponse. Les représentants de l'autorité font référence à leur retraite imminente et ne souhaitent plus "mener une vie passionnante".
Millions de violations par le suivi illégal sur Internet se produisent chaque jour en Allemagne – aucune autorité allemande de protection des données n'a encore infligé une amende pour cela. Si les infractions restent sans conséquences, les mécanismes d'observation complexes sont complètement inutiles.
Les tribunaux ignorent le droit européen
La justice allemande échoue également en matière de protection des données. Les tribunaux:
- Appliquer le droit allemand plutôt que le droit européen plus strict
- Renvoyer les plaignants entre les autorités et les tribunaux
- Ignorer les principes fondamentaux du RGPD
La Cour de justice européenne doit régulièrement clarifier, au cours de procédures qui durent des années, des évidences que n'importe quel tribunal allemand aurait pu reconnaître dès le départ.
L'intelligence artificielle rend le contrôle du chat obsolète
Les criminels ne sont pas stupides. L'IA moderne permet de générer sans problème des milliers d'images que les algorithmes classeraient comme suspectes. En inondant massivement le système de fausses alertes, c'est toute l'infrastructure de surveillance qui s'effondrerait – exactement comme un gardien qui appuierait sept fois sur la fausse alerte et raterait la véritable évasion la huitième fois.
Ce que les entreprises doivent faire maintenant
Les entreprises allemandes, qui avaient autrefois interdit les caméras dans les halls de production par peur de l'espionnage industriel, travaillent aujourd'hui sans esprit critique avec les produits Google et Microsoft. Elles remettent volontiers l'ensemble de leur intelligence d'entreprise entre les mains de groupes multimilliardaires et se rendent dépendantes de leur politique de prix et de leur assistance insuffisante.
Il existe des alternatives !
Pour presque tous les cas d'application, il existe des alternatives à Microsoft, Google et autres. Les entreprises devraient:
- Investir du temps dans la recherche de produits alternatifs
- Développer ses propres solutions (oui, c'est permis !)
- Sensibiliser les collaborateurs à la protection des données
- Développer les compétences techniques en interne
La solution: dissuasion et débureaucratisation
Au lieu de toujours plus de surveillance, nous avons besoin:
- Dissuasion efficace par une poursuite judiciaire conséquente
- Agences de protection des données fonctionnelles avec volonté d'application
- Tribunaux, qui appliquent correctement le droit de l'Union européenne
- Débureaucratisation, afin que les procédures ne durent pas des années entières
- Éducation et sensibilisation pour les questions numériques
Si deux ou trois entreprises étaient lourdement sanctionnées pour avoir enfreint la protection des données, cela aurait plus d'impact que n'importe quelle surveillance préventive. De nombreuses personnes se demanderaient si elles ont vraiment besoin de leur page fan Facebook – le nombre de plaintes auprès des autorités diminuerait automatiquement.
Conclusion: défendre la liberté numérique
Le contrôle des chats est une attaque dangereuse contre notre liberté numérique et notre vie privée. Il n'aidera pas efficacement à lutter contre la criminalité, mais violera en masse les droits fondamentaux et fera peser une suspicion générale sur les citoyens ordinaires.
Nous disposons déjà de lois et d'outils pour lutter contre la criminalité – nous devons simplement les appliquer enfin de manière conséquente. La numérisation est le facteur économique le plus important de notre époque. Il est grand temps que la politique, la justice et les autorités le comprennent et assument leurs responsabilités.
Internet n'est plus un terrain vierge – et les infractions sur Internet sont de véritables infractions qui doivent être prises au sérieux. Pas par une surveillance de masse, mais par les principes de l'État de droit: Dissuasion, cohérence et protection de nos droits fondamentaux.
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
