Kontrola czatu: Jak UE zagraża naszej wolności cyfrowej

Roboty, komputery i algorytmy nie służą nam, to my służymy im. Mają nas pod stałą kontrolą, mierzą wszystko, co robimy i obliczają, jak mogą wyciągnąć z nas jeszcze więcej". Te prowokacyjne słowa eksperta ds. technologii Guntera Düecka trafnie opisują to, do czego zmierzamy – zwłaszcza jeśli plany niektórych polityków UE są czymś, do czego można się przyczepić.

Wprowadzenie

Tekst oryginalny: Chatkontrolle: Jak Unia Europejska niszczy naszą wolność cyfrową Roboty, komputery i algorytmy nie służą nam, służymy im. Stały są pod ich kontrolą, mierzą wszystko, co robimy i obliczają, jak jeszcze więcej z nas wydobyć można.” Z tych kontrowersyjnych słów technologicznego eksperta Guntera Dücka możemy opisać dokładnie, w kierunku którego zmierzamy – zwłaszcza jeśli chodzi o plany niektórych polityków UE. Ten artykuł uzupełnia podcast privacy Deluxe #26 Chatbots używają: na co i dlaczego lepiej nie? Temat stał się ponownie aktualny, po tym jak przez jakiś czas nie było żadnych nowinek dotyczących kontroli chatów. W tym artykule dyskutujemy ogólnie o problematyce masowego nadzorowania chatach. Aktualnie nie ma decyzji, czy takie nadzorowanie przyjdzie lub jak będzie wyglądać. W dyskusji jest mowa o ocenie tekstów i nagranych dźwięków, ale nie obrazów.

Podcastu można posłuchać tutaj:

Podcast Data Protection Deluxe jest obsługiwany lokalnie przez Dr. RODO. Platforma Podigee nie będzie już używana. Zamiast tego poprzedni podcast został automatycznie zmigrowany do wersji lokalnej. Dzięki wsparciu AI przebiegło to sprawnie.

Czym jest kontrola czatu?

Od kilku lat Komisja Europejska dyskutuje nad projektem ustawy, która pod pretekstem walki z przestępczością – w szczególności z pornografią dziecięcą i cyberprzemocą – podważałaby technologie szyfrowania w komunikatorach i wszystkich usługach komunikacji elektronicznej. Około dziesięciu państw członkowskich UE popiera obecnie tę inicjatywę na rzecz wszechogarniającej inwigilacji.

Przeciwnicy twierdzą, że tak zwana kontrola czatu wykracza daleko poza prywatność i podstawowe prawa naszego demokratycznego porządku. Ale co oznaczałoby to konkretnie, gdyby rządy były w stanie przechwytywać prywatną komunikację na czatach, komunikatorach i e-mailach w dowolnym momencie bez żadnych wielkich pozorów?

Problem ze skanowaniem po stronie klienta

Planowany mechanizm nazywa się "skanowaniem po stronie klienta". Automatyczne skanowanie ma odbywać się bezpośrednio na urządzeniu końcowym – tj. na smartfonie lub komputerze. Ma to na celu sprawdzenie, czy używane są określone słowa kluczowe, które mogą być związane z działalnością przestępczą lub czy semantyka komunikacji wydaje się podejrzana.

Problem fałszywych alarmów

Największy problem: będzie niezliczona ilość fałszywych alarmów. Nieszkodliwy przykład ilustruje absurd: rodzice, którzy wyślą zdjęcie swojego nagiego malucha na plaży do członków rodziny, mogą zostać automatycznie namierzeni. Algorytm rozpoznaje "nagie dziecko" – a czat jest natychmiast przekierowywany i sprawdzany.

Sytuacja ta przypomina problem z alarmami samochodowymi: jeśli alarm włącza się bez powodu, nikt nie traktuje go poważnie. W przypadku kontroli czatów byłoby to prawdopodobnie 99 procent fałszywych alarmów i być może jeden procent rzeczywiście podejrzanych przypadków.

Skandal CSAM w Apple jako ostrzeżenie

Apple już opracowało i przetestowało taki mechanizm. Tak zwana afera CSAM (Child Sexual Abuse Material) wyraźnie pokazała, jak problematyczna jest ta technologia:

• Obrazy zostały automatycznie przesłane na serwery Apple w zaszyfrowanej formie
• Porównanie z bazą danych odbyło się – przed użytkownik wysłał wiadomość
• System z czasem stawał się coraz bardziej wrażliwy

Wewnętrzny informator w Apple doniósł, że punkt ciężkości został rozszerzony z "wyraźnej pornografii dziecięcej" na "dziecko bez koszulki". System ostatecznie sklasyfikowałby każdy czat między rodzicami a rodziną z nieszkodliwymi zdjęciami dzieci jako podejrzany.

Kto kontroluje kontrolerów?

Privatne firmy powinny przeprowadzać te kontroli przedwstępne – nie urzędy policyjne. Koncerny takie jak Meta (Facebook, WhatsApp) czy Google, które już teraz:

• Posiadanie wszechobecnej siły rynkowej
• W niektórych krajach będzie to skutecznie utożsamiane z "internetem
• Wykorzystanie algorytmów do wpływania na opinie w ukierunkowany sposób
• Regularne naruszanie przepisów o ochronie danych

Absurdem jest powierzanie tym firmom zadania wykrywania przestępstw, podczas gdy one same systematycznie popełniają przestępstwa. Firmy te są zaangażowane w przestępczość zorganizowaną w przestrzeni cyfrowej – celowo łamią prawo na całym świecie i wykręcają się od odpowiedzialności podczas przesłuchań, stosując wymówki takie jak "to był algorytm".

Dotyczy to wszystkich – nie tylko użytkowników Messengera

Każdy, kto myśli, że jest bezpieczny bez Facebooka lub WhatsApp, jest w błędzie. Prawie każdy z nich korzysta:

• Smartfony z Androidem i usługami Google
• Wyszukiwanie głosowe Google
• Windows od Microsoft
• iPhone od Apple

Kontrola czatu dotyczyłaby wszystkich tych usług. Nieszkodliwe zapytanie w wyszukiwarce, takie jak "Czy kontrola czatu skutecznie pomaga w walce z pornografią dziecięcą?", może już wywołać alarm, ponieważ pojawia się w nim słowo "pornografia dziecięca".

Prawdziwy problem: brak odstraszania

Prawdziwa przyczyna braku skutecznej walki z przestępczością nie leży w braku możliwości nadzoru, ale w braku odstraszania i konsekwentnej ściganiu sprawców.

Organy ochrony danych zawodzą

Jeden przerażający przykład: heski organ ochrony danych skutecznie odmawia wykonywania swojej pracy. Skargi często pozostają bez odpowiedzi. Przedstawiciele urzędu powołują się na zbliżającą się emeryturę i "nie chcą już prowadzić ekscytującego życia".

Miliony przestępstw z powodu nielegalnego śledzenia w internecie odbywają się codziennie w Niemczech – żadna niemiecka instytucja ochrony danych osobowych nie wymierzyła dotąd kary za takie naruszenia. Jeśli przestępstwa pozostają bezkarnymi, to skomplikowane mechanizmy nadzoru są zupełnie bezużyteczne.

Sądy ignorują prawo UE

Niemieckie sądownictwo również zawodzi, jeśli chodzi o ochronę danych. Sądy:

• Stosowanie prawa niemieckiego zamiast bardziej rygorystycznego prawa UE
• Odwoływanie się powodów tam i z powrotem między władzami i sądami
• Ignorowanie podstawowych zasad RODO

Europejski Trybunał Sprawiedliwości regularnie musi wyjaśniać oczywiste fakty przez lata postępowań, które każdy niemiecki sąd mógłby uznać od samego początku.

Sztuczna inteligencja sprawia, że kontrola czatu staje się przestarzała

Przestępcy nie są głupi. Nowoczesna sztuczna inteligencja może z łatwością wygenerować tysiące obrazów, które algorytmy zaklasyfikowałyby jako podejrzane. Masowe zalewanie systemu fałszywymi alarmami spowodowałoby załamanie całej infrastruktury nadzoru – podobnie jak w przypadku ochroniarza, który siedem razy odrzuca fałszywy alarm, a za ósmym razem nie zauważa prawdziwego włamania.

Co firmy powinny zrobić teraz

Niemieckie firmy, które kiedyś zakazały stosowania kamer w halach produkcyjnych z obawy przed szpiegostwem przemysłowym, teraz bezkrytycznie współpracują z produktami Google i Microsoft. Chętnie oddają całą swoją inteligencję korporacyjną w ręce miliardowych korporacji i uzależniają się od ich polityki cenowej i niewystarczającego wsparcia.

Istnieją alternatywy!

Istnieją alternatywy dla Microsoftu, Google i innych firm dla niemal każdego przypadku użycia:

• Inwestowanie czasu w poszukiwanie alternatywnych produktów
• Opracowywanie własnych rozwiązań (tak, to dozwolone!)
• Uwrażliwianie pracowników na ochronę danych
• Budowanie wewnętrznej wiedzy technicznej

Rozwiązanie: odstraszanie i mniej biurokracji

Zamiast coraz większej inwigilacji, potrzebujemy:

1. Skuteczna odstraszanie przez konsekwentną karę za popełnione przestępstwa
2. Funkcjonujące organy ochrony danych osobowych z chęcią ich egzekwowania
3. Sądy, które stosują prawo UE zgodnie z jego intencją
4. Odblokowanie biurokratyczne, aby postępowania nie trwały latami
5. Bildung i wychowanie dla tematów cyfrowych

Gdyby dwie lub trzy firmy zostały surowo ukarane za naruszenie ochrony danych, miałoby to większy wpływ niż jakikolwiek nadzór prewencyjny. Wiele osób zastanowiłoby się dwa razy, czy naprawdę potrzebują swojego fanpage'a na Facebooku – liczba skarg do władz automatycznie by spadła.

Podsumowanie: Obrona wolności cyfrowej

Kontrola czatów to niebezpieczny atak na naszą cyfrową wolność i prywatność. Nie pomoże skutecznie w walce z przestępczością, ale naruszy podstawowe prawa na masową skalę i sprawi, że zwykli obywatele staną się podejrzani.

Mamy już przepisy i narzędzia do walki z przestępczością – musimy je tylko konsekwentnie stosować. Cyfryzacja jest najważniejszym czynnikiem ekonomicznym naszych czasów. Najwyższy czas, aby politycy, wymiar sprawiedliwości i władze zrozumiały to i wypełniły swoje obowiązki.

Internet nie jest już niezbadanym terytorium – a przestępstwa internetowe są prawdziwymi przestępstwami, które należy traktować poważnie. Nie poprzez masową inwigilację, ale poprzez zasady rządów prawa: Odstraszanie, konsekwencja i ochrona naszych praw podstawowych.