Robots, ordenadores y algoritmos no nos sirven, nosotros les servimos a ellos. Nos tienen bajo control constante, miden todo lo que hacemos y calculan cómo pueden sacar aún más de nosotros". Estas provocadoras palabras del experto en tecnología Gunter Düeck describen acertadamente hacia dónde nos dirigimos, sobre todo si nos atenemos a los planes de algunos políticos de la UE.
Introducción
Resumen del contexto del texto de origen: Chatkontrolle: Wie el EU unsere digitale Freiheit gefährdet Roboter, Computer und Algorithmen dienen nicht uns, wir dienen ihnen. Sie haben uns permanent unter Kontrolle, messen alles, what wir tun und berechnen, wie sie noch mehr aus uns herausholen können.“ Mit diesen provokanten Worten des Technologie-Experten Gunter Düeck lässt sich treffend beschreiben, worauf wir zusteuern – besonders wenn es nach den Plänen einiger EU-Politiker geht. Texto de origen: Dieser Artikel ergänzt el privacy Deluxe Podcast-Folge #26 Chatbots nutzen: wofür und wofür besser nicht? El Thema is wieder aktuell geworden, nachdem es eine Weile keine Neuigkeiten zur Chatkontrolle gegeben hatte. In diesem Beitrag diskutieren wir allgemein about el Problematik, Chats massenhaft überwachen zu wollen. Aktuell gibt es noch keine Entscheidung, ob eine solche Überwachung kommt or wie sie gestalten werden soll. Im Gespräch is, Texte und Audiospuren nicht auszuwerten, dafür aber photos. Traducción al español: Resumen del contexto del texto de origen: Chatkontrolle: ¿Cómo la UE está poniendo en peligro nuestra libertad digital Los robots, los computadores y los algoritmos no nos sirven a nosotros, sino que nosotros les servimos. Ellos nos tienen permanentemente bajo control, miden todo lo que hacemos y calculan cómo pueden sacar más de nosotros.“ Con estas palabras provocadoras del experto en tecnología Gunter Düeck se puede describir con precisión hacia dónde estamos caminando – especialmente si se considera los planes de algunos políticos de la UE. Texto de origen: Este artículo complementa la emisión #26 Chatbots utilizan: para qué y para qué mejor no? del podcast privacy Deluxe. El tema ha vuelto a ser actualizado después de un tiempo sin noticias sobre la chatkontrolle. En este artículo discutimos en general sobre el problema de querer supervisar chats masivamente. Actualmente, no hay decisión sobre si se implementará tal supervisión o cómo se diseñará. Se está discutiendo sobre la evaluación de textos y pistas de audio, pero no de imágenes. Nota: He mantenido _"intacto como se indica en el contexto proporcionado.
Puede escuchar el podcast aquí:
El podcast de lujo de la protección de datos funciona localmente en Dr. RGPD. Ya no se utilizará la plataforma Podigee. En su lugar, el podcast anterior se migró automáticamente a una versión local. Gracias al apoyo de AI, esto se hizo sin problemas.
¿Qué es el control del chat?
Desde hace varios años, la Comisión Europea debate un proyecto de ley que socavaría las tecnologías de encriptación en los servicios de mensajería y todos los servicios de comunicación electrónica con el pretexto de combatir la delincuencia, sobre todo la pornografía infantil y la ciberprostitución. Una decena de Estados miembros de la UE apoyan actualmente esta iniciativa en favor de una vigilancia omnímoda.
Los opositores argumentan que este supuesto control del chat va mucho más allá de la privacidad y los derechos fundamentales de nuestro orden democrático. Pero, ¿qué significaría concretamente que los gobiernos pudieran interceptar en cualquier momento y sin mayores pretensiones las comunicaciones privadas en chats, servicios de mensajería y correos electrónicos?
El problema del escaneado del lado del cliente
El mecanismo previsto se denomina "escaneado del lado del cliente". Se realizará un escaneado automático directamente en el dispositivo final, es decir, en el smartphone o el ordenador. El objetivo es comprobar si se utilizan determinadas palabras clave que puedan asociarse a actividades delictivas o si la semántica de la comunicación parece sospechosa.
El problema de las falsas alarmas
El mayor problema: habrá innumerables falsas alarmas. Un ejemplo inofensivo ilustra lo absurdo: los padres que envíen una foto de su hijo desnudo en la playa a sus familiares podrían ser automáticamente señalados. El algoritmo reconoce "niño desnudo" y el chat es inmediatamente desviado y comprobado.
Esta situación es similar al problema de las alarmas de los coches: si una alarma sigue sonando sin motivo real, ya nadie se la toma en serio. En el caso del control de charlas, probablemente se trataría de un 99% de falsas alarmas y quizá un 1% de casos realmente sospechosos.
El escándalo CSAM de Apple como advertencia
Apple ya ha desarrollado y probado un mecanismo de este tipo. El llamado caso CSAM (Child Sexual Abuse Material) dejó claro lo problemática que es esta tecnología:
- Las imágenes se transmitieron automáticamente a los servidores de Apple de forma encriptada
- Un comparativo con una base de datos tuvo lugar – antes de que el usuario hubiera enviado la noticia en absoluto
- Con el tiempo, el sistema se ha vuelto cada vez más sensible
Un informante interno de Apple denunció que el objetivo se había ampliado de "pornografía infantil explícita" a "niño sin camiseta". En última instancia, el sistema habría clasificado como sospechoso cualquier chat entre padres y familiares con fotos inofensivas de niños.
¿Quién controla a los controladores?
Privatunternehmen deberían realizar estas comprobaciones previas – no las autoridades policiales. Precisamente empresas como Meta (Facebook, WhatsApp) o Google, que ya ahora:
- Poseer un poder de mercado omnipresente
- En algunos países, esto se equiparará efectivamente a "internet
- Utilizar algoritmos para influir en las opiniones de forma selectiva
- Violación habitual de la normativa de protección de datos
Confiar a estas empresas la tarea de descubrir delitos mientras ellas mismas los cometen sistemáticamente es absurdo. Estas empresas se dedican a la delincuencia organizada en el espacio digital: infringen deliberadamente las leyes en todo el mundo y se escabullen de su responsabilidad en las vistas con excusas como "fue el algoritmo".
Todo el mundo se ve afectado, no sólo los usuarios de Messenger
Quien piense que está a salvo sin Facebook o WhatsApp se equivoca. Casi todo el mundo los utiliza:
- Smartphones Android con servicios de Google
- La búsqueda por voz de Google
- Windows de Microsoft
- Un iPhone de Apple
El control de los chats se aplicaría a todos estos servicios. Una inofensiva consulta de búsqueda como "¿Ayuda eficazmente el control del chat contra la pornografía infantil?" ya podría disparar una alarma porque aparece la palabra "pornografía infantil".
El verdadero problema: la falta de disuasión
La verdadera causa de la falta de lucha contra el delito no está en las posibilidades de vigilancia, sino en la falta de intimidación y persecución penal consecuente.
Las autoridades de protección de datos fracasan
Un ejemplo aterrador: la autoridad de protección de datos de Hesse se niega en la práctica a hacer su trabajo. A menudo ni siquiera se responde a las quejas. Los representantes de la autoridad aluden a su próxima jubilación y "ya no quieren llevar una vida apasionante".
Millones de infracciones por rastreo ilegal en la web se producen diariamente en Alemania – ninguna autoridad de protección de datos alemana ha impuesto una multa hasta ahora. Si las infracciones no tienen consecuencias, los mecanismos de vigilancia son completamente inútiles.
Los tribunales ignoran la legislación de la UE
El poder judicial alemán también está fallando en materia de protección de datos. Tribunales:
- Aplicar la legislación alemana en lugar de una legislación comunitaria más estricta
- Refiriéndose a demandantes que van y vienen entre autoridades y tribunales
- Ignorar los principios básicos del RGPD
El Tribunal de Justicia de las Comunidades Europeas tiene que aclarar periódicamente durante años hechos evidentes que cualquier tribunal alemán podría haber reconocido desde el principio.
La inteligencia artificial deja obsoleto el control del chat
Los delincuentes no son tontos. La IA moderna puede generar fácilmente miles de imágenes que los algoritmos clasificarían como sospechosas. Al inundar el sistema con falsas alarmas en masa, toda la infraestructura de vigilancia se colapsaría, como un guardia de seguridad que rechaza la falsa alarma siete veces y no detecta la verdadera fuga a la octava.
Lo que las empresas deben hacer ahora
Las empresas alemanas que antes prohibían las cámaras en las naves de producción por miedo al espionaje industrial, ahora trabajan acríticamente con productos de Google y Microsoft. Ponen voluntariamente toda su inteligencia corporativa en manos de corporaciones multimillonarias y se hacen dependientes de sus políticas de precios y de su inadecuado soporte.
¡Hay alternativas!
Hay alternativas a Microsoft, Google y otras empresas para casi todos los casos de uso:
- Invertir tiempo en la búsqueda de productos alternativos
- Desarrollar nuestras propias soluciones (¡sí, está permitido!)
- Sensibilizar a los empleados sobre la protección de datos
- Aumentar los conocimientos técnicos internos
La solución: disuasión y menos burocracia
En lugar de más y más vigilancia, necesitamos:
- Deterrenciación efectiva mediante persecución penal consecuente
- Comités de protección de datos funcionales con voluntad de aplicación
- Tribunales, que apliquen correctamente el derecho de la UE
- Desburocratización, para que los procedimientos no duren años
- Educación y concienciación sobre temas digitales
Si dos o tres empresas fueran severamente sancionadas por violar la protección de datos, tendría más impacto que cualquier vigilancia preventiva. Mucha gente se pensaría dos veces si realmente necesita su página de fans en Facebook: el número de denuncias a las autoridades descendería automáticamente.
Conclusión: defender la libertad digital
El control del chat es un peligroso ataque a nuestra libertad y privacidad digitales. No ayudará eficazmente contra la delincuencia, sino que violará derechos fundamentales a gran escala y pondrá a los ciudadanos normales bajo sospecha generalizada.
Ya tenemos leyes y herramientas para luchar contra la delincuencia, sólo hace falta aplicarlas por fin de forma coherente. La digitalización es el factor económico más importante de nuestro tiempo. Ya es hora de que los políticos, la judicatura y las autoridades lo comprendan y asuman sus responsabilidades.
Internet ya no es territorio inexplorado, y los delitos en la red son delitos reales que deben tomarse en serio. No a través de la vigilancia masiva, sino a través de los principios del Estado de Derecho: Disuasión, coherencia y protección de nuestros derechos fundamentales.
Me llamo Klaus Meffert. Soy doctor en informática y llevo más de 30 años dedicándome profesional y prácticamente a las tecnologías de la información. También trabajo como experto en informática y protección de datos. Obtengo mis resultados analizando la tecnología y el Derecho. Esto me parece absolutamente esencial cuando se trata de protección de datos digitales.