Роботи, комп'ютери та алгоритми не служать нам, а ми служимо їм. Вони тримають нас під постійним контролем, вимірюють все, що ми робимо, і вираховують, як вони можуть отримати від нас ще більше". Ці провокаційні слова технологічного експерта Гюнтера Дюка влучно описують те, до чого ми прямуємо – особливо, якщо вірити планам деяких політиків ЄС.
Вступ
Чатконтроль: Як ЄС загрожує нашій цифровій свободі Роботи, комп'ютери та алгоритми не служать нам, а ми їм. Вони постійно контролюють нас, вимірюють усе, що робимо і розрахують, як ще більше витягнути з нас. „ З такими провокативними словами експерта у галузі технологій Гюнтера Дюкка можна досить добре описати, на чому ми йдемо – особливо якщо виходити з планів деяких політиків ЄС. Цей текст доповнює епізод подкасту «Дані про захист» #26 Чат-боти використовують: для чого і чого краще не робити? Тема знову стала актуальною після того, як протягом певного часу не було жодних новин щодо чатконтролю. У цьому тексті ми дискутуємо загалом про проблему масштабної спостереження за чатами. Наразі ще немає рішення щодо можливості проведення подібної спостережності чи її організації. У розмові йде мова лише про оцінку текстів та аудіозаписів, а не про оцінку зображень.
Ви можете прослухати подкаст тут:
Розкішний подкаст про захист даних працює локально на Dr. GDPR. Платформа Podigee більше не буде використовуватися. Натомість попередній подкаст було автоматично перенесено на локальну версію. Завдяки підтримці штучного інтелекту це пройшло без проблем.
Що таке контроль чату?
Вже кілька років поспіль Єврокомісія обговорює законопроект, який підірве технології шифрування в месенджерах і всіх електронних комунікаційних сервісах під приводом боротьби зі злочинністю – зокрема, з дитячою порнографією і кібер-грумінгом. Близько десяти країн-членів ЄС наразі підтримують цю ініціативу на користь всеосяжного нагляду.
Опоненти стверджують, що цей так званий контроль чатів виходить далеко за межі приватності та фундаментальних прав нашого демократичного устрою. Але що б це означало на практиці, якби уряди могли перехоплювати приватне спілкування в чатах, месенджерах та електронних листах у будь-який час без особливих на те підстав?
Проблема зі скануванням на стороні клієнта
Запланований механізм називається "сканування на стороні клієнта". Автоматичне сканування має відбуватися безпосередньо на кінцевому пристрої – тобто на вашому смартфоні або комп'ютері. Це має на меті перевірити, чи використовуються певні ключові слова, які можуть бути пов'язані зі злочинною діяльністю, або чи не виглядає семантика повідомлення підозрілою.
Проблема хибної тривоги
Найбільша проблема: буде незліченна кількість хибних тривог. Абсурдність ситуації ілюструє нешкідливий приклад: батьки, які надсилають фото свого голого малюка на пляжі членам сім'ї, можуть автоматично стати мішенню для стеження. Алгоритм розпізнає "гола дитина" – і чат негайно пересилається і перевіряється.
Ця ситуація схожа на проблему з автомобільними сигналізаціями: якщо сигналізація постійно спрацьовує без реальної причини, ніхто більше не сприймає її серйозно. У випадку з контролем чатів, це, ймовірно, буде 99 відсотків хибних тривог і, можливо, один відсоток дійсно підозрілих випадків.
Скандал з CSAM Apple як попередження
Компанія Apple вже розробила і протестувала такий механізм. Так звана справа CSAM (матеріали про сексуальне насильство над дітьми) чітко показала, наскільки проблематичною є ця технологія:
- Зображення автоматично передавалися на сервери Apple у зашифрованому вигляді
- Перевірка у базі даних відбулася – до того, як користувач відправив повідомлення
- З часом система стає все більш чутливою
Внутрішній інформатор в Apple повідомив, що фокус був розширений з "явної дитячої порнографії" на "дитину без футболки". Зрештою, система віднесла б до категорії підозрілих будь-який батьківсько-сімейний чат з нешкідливими фотографіями дітей.
Хто контролює контролерів?
Переклад: Вищий рівень проблеми: Єврокомісія пропонує, щоб приватні підприємства здійснювали ці попередні перевірки – не поліційні органи влади. Зокрема, компанії як Meta (Facebook, WhatsApp) або Google, які вже зараз:
- Володіння всюдисущою ринковою владою
- У деяких країнах це буде фактично прирівняно до "інтернету
- Використання алгоритмів для цілеспрямованого впливу на громадську думку
- Регулярне порушення законодавства про захист даних
Довіряти цим компаніям завдання розкривати злочини, коли вони самі систематично вчиняють правопорушення, – абсурд. Ці компанії займаються організованою злочинністю в цифровому просторі – вони свідомо порушують закони по всьому світу і уникають відповідальності на слуханнях, виправдовуючись тим, що "це був алгоритм".
Це стосується всіх – не лише користувачів Messenger
Той, хто думає, що він у безпеці без Facebook або WhatsApp, помиляється. Майже всі ними користуються:
- Смартфони Android з сервісами Google
- Голосовий пошук Google
- Windows від Microsoft
- iPhone від Apple
Контроль над чатами буде поширюватися на всі ці сервіси. Безневинний пошуковий запит на кшталт "Чи допомагає контроль чату ефективно протидіяти дитячій порнографії?" вже може викликати тривогу, оскільки в ньому з'являється слово "дитяча порнографія".
Справжня проблема: брак стримування
Виставлення злочинців на облік не є справжньою причиною відсутності ефективної боротьби з злочинністю, а саме відсутність відлякування та цілковитої слідчої діяльності.
Органи захисту даних не справляються
Один із страшних прикладів: гессенський орган захисту даних фактично відмовляється виконувати свою роботу. На скарги часто навіть не відповідають. Представники відомства посилаються на те, що вони наближаються до пенсії і "більше не хочуть жити цікавим життям".
Мільйонні порушення шляхом незаконного веб-трекінгу відбуваються щодня у Німеччині – нічого німецької влади з захисту даних ще не було покарано ні за одне подібне порушення. Коли порушень немає наслідків, усі складні механізми спостереження є цілковито безглуздими.
Суди ігнорують законодавство ЄС
Німецька судова система також не справляється із захистом даних. Суди:
- Застосовувати німецьке законодавство замість більш суворого законодавства ЄС
- Перенаправлення позивачів туди-сюди між органами влади та судами
- Ігнорування основних принципів GDPR
Європейському суду регулярно доводиться роз'яснювати самоочевидні факти протягом багатьох років розгляду справ, які будь-який німецький суд міг би визнати з самого початку.
Штучний інтелект робить контроль над чатами застарілим
Злочинці не дурні. Сучасний штучний інтелект може легко згенерувати тисячі зображень, які алгоритми класифікують як підозрілі. Масове наповнення системи хибними тривогами призведе до краху всієї інфраструктури спостереження – як у випадку з охоронцем, який сім разів відштовхує хибну тривогу, а на восьмий пропускає справжню втечу.
Що компаніям потрібно робити зараз
Німецькі компанії, які колись забороняли камери у виробничих цехах, побоюючись промислового шпигунства, тепер некритично працюють з продуктами Google і Microsoft. Вони охоче віддають всю свою корпоративну розвідку в руки мільярдних корпорацій і ставлять себе в залежність від їхньої цінової політики та недостатньої підтримки.
Альтернативи існують!
Альтернативи Microsoft, Google та іншим компаніям існують майже для кожного випадку використання:
- Інвестувати час у пошук альтернативних продуктів
- Розробляти власні рішення (так, це дозволено!)
- Підвищення обізнаності працівників щодо захисту даних
- Нарощування технічної експертизи власними силами
Рішення: стримування і менше бюрократії
Замість все більшого і більшого нагляду нам потрібно:
- Ефективна відлякання шляхом рішучої слідчої діяльності
- Функціонуючі органи захисту даних з бажанням виконувати свої обов'язки
- Суди, які застосовують ЄС-право правильно
- Дебюрократизація, щоб процедури не тривали роки
- Освіта та просвіщення для цифрових тем
Якби дві-три компанії були суворо покарані за порушення захисту даних, це мало б більший вплив, ніж будь-яке превентивне спостереження. Багато людей двічі подумали б, чи справді їм потрібна їхня фан-сторінка у Facebook – кількість скарг до органів влади автоматично зменшилася б.
Висновок: Захист цифрової свободи
Контроль чатів – це небезпечна атака на нашу цифрову свободу і приватність. Він не допоможе ефективно боротися зі злочинністю, але масово порушуватиме фундаментальні права і ставитиме під загальну підозру звичайних громадян.
Ми вже маємо закони та інструменти для боротьби зі злочинністю – нам лише потрібно нарешті послідовно їх застосовувати. Діджиталізація – найважливіший економічний фактор нашого часу. Настав час політикам, судовій системі та органам влади зрозуміти це і виконати свої обов'язки.
Інтернет більше не є незвіданою територією – а інтернет-злочини є реальними злочинами, до яких треба ставитися серйозно. Не за допомогою масового стеження, а на основі принципів верховенства права: стримування, послідовність і захист наших фундаментальних прав.
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.