Штучний інтелект не захистить ваших дітей: контроль за чатом знову піднімає голову

На жаль, порушення наших громадянських свобод занадто часто прикриваються обіцянками захисту від монстрів. Пропозиція ЄС щодо “Регламенту, що встановлює правила для запобігання та боротьби з сексуальним насильством над дітьми” (CSA Regulation, або CSAR) є яскравим прикладом цього. Цього тижня цей регламент знову було винесено на голосування в Європейському парламенті. На щастя, вчора його було відкладено через суперечки, які виникли навколо того, що захисники конфіденційності називають його, можливо, “найбільш критикованим проєктом закону ЄС усіх часів”.

Знімок екрана зроблений 21 червня 2024 року

CSAR фактично надає веб-клієнтам технології стеження на базі штучного інтелекту, щоб підірвати шифрування, яке захищає особисті файли та комунікації всіх користувачів. Усе це під виглядом боротьби з сексуальним насильством над дітьми, але не дайте себе обдурити цим вовком у овечій шкурі. Громадянам ЄС пропонують хибний вибір: приватні комунікації або сексуальні хижаки? На щастя, багато людей, включно з основною командою Nym і спільнотою, терміново виступають проти цього.

Команда Nym уважно стежить за поступовим розвитком версій 1.0 і 2.0 “Контролю за чатом” з моменту його створення в 2022 році. Зараз знову відбуваються обговорення і можливе голосування за документ із зманливо зміненою мовою. Однак ці зміни лише пом’якшують тон його стратегії масового стеження. Усе це лише спроба обійти зобов’язання GDPR щодо захисту наскрізного шифрування даних. Хоча шифрування може залишитися недоторканим CSAR, пропонується ще більш загрозлива бекдор (обхідний шлях) для шифрування, яка забезпечить ще глибше стеження за пристроями в масовому масштабі.

Нижче описано, що поставлено на карту в пропозиції CSAR і чому це становить таку загрозу для онлайн-конфіденційності всіх в ЄС та в усьому світі.

Що таке контроль за чатом?

Законодавство CSAR, яке критики називають “контролем за чатом”, є спробою регулювання для виявлення та блокування трафіку дитячої порнографії та насильства “до передачі”. Хоча мало хто не погодиться з метою, експерти голосно заявляють, що запропоноване регулювання просто не буде ефективним. Гірше того, воно авторизує і впроваджує стеження на пристроях цілої частини континенту користувачів.

Сканування на стороні клієнта (CSS)

Запропоноване CSAR рішення проблеми матеріалів сексуального насильства над дітьми (CSAM) полягає у масовому стеженні за допомогою сканування на стороні клієнта (CSS). Замість того, щоб компрометувати зашифровані передачі, воно фактично сканує дані на пристроях або серверах до того, як шифрування відбудеться. Це підірве безпеку комунікацій та принципи наскрізного шифрування для всіх.

Шифрування є наріжним каменем безпечної комунікації. Коли ви робите щось онлайн через зашифроване з’єднання — відправляєте особисті фото друзям або родині, чи використовуєте кредитну картку онлайн — ви можете бути розумно впевнені, що сторонні особи не зможуть отримати доступ до ваших даних або скористатися ними. Перші зусилля CSAR намагалися змусити веб-сервіси зламати шифрування, що захищає вміст клієнтських комунікацій. Зламавши шифрування, усі повідомлення могли б бути відскановані на наявність цільового матеріалу. На щастя, це зустріло великий опір з боку громадянського суспільства та захисників конфіденційності.

Наразі пропонуються технології CSS, які юридично дозволять і дадуть можливість веб-сервісам сканувати або “моніторити” файли та комунікації на вашому пристрої до того, як буде застосовано шифрування. Уявіть, що Apple зможе регулярно сканувати ваші додатки iPhoto або iMessenger на предмет запрограмованих даних, які вважаються загрозою. Або що приватній комунікаційній службі надано юридичний наказ робити це. Насправді президент Signal навіть публічно заявив, що вони припинять надавати свої послуги в юрисдикціях ЄС, якщо їм доведеться піти на такий компроміс щодо безпеки своїх користувачів.

Знімок екрана зроблений 21 червня 2024 року

Технологія CSS “глибоко вразлива”, кажуть вчені

Будь-яка програма для стеження потребує пошуку чогось конкретного. Головне питання полягає в тому: чи може вона знайти свої цілі без збору непов’язаних даних? У випадку з CSAR, зазначеною метою є сканування пристроїв користувачів на потенційні випадки CSAM. Це означає, наприклад, фотографії, що зображають дітей оголеними або сексуально, або повідомлення, що описують такі дії. Але як це взагалі може працювати?

Фактично програма аналізу даних, ймовірно, на основі ШІ, отримає доступ до незашифрованого контенту на пристрої або сервері кожного. Система буде виявляти масові загрози на основі точок даних, а потім відправляти всі випадки для перевірки людською командою. Ця команда отримає доступ до ваших особистих файлів та комунікацій, щоб визначити, чи вчинили ви щось неправильне. Підозрілий контент або діяльність будуть потім передані правоохоронним органам для подальшого розслідування.

Дослідники дуже голосно попереджають, наскільки ця технологія може бути вразливою, як з технічної точки зору, так і з точки зору громадянських свобод. Уявіть собі хибнопозитивний результат, коли особисті фотографії ваших дітей будуть помилково ідентифіковані алгоритмом, а потім переглянуті аналітиками до того, як передати їх правоохоронцям. Вчені з аналізу даних попереджають, що таке “сканування приречене на неефективність”, а його проведення в широкому масштабі створить “побічні ефекти, які можуть бути надзвичайно шкідливими для всіх онлайн, і які можуть зробити Інтернет і цифрове суспільство менш безпечними для всіх”.

Хронологія

CSAR стикається з труднощами в Європарламенті з моменту його введення у 2022 році. Цього тижня він знову поставлений на стратегічно заплановане обговорення під час нещодавніх парламентських виборів. Ось ключова хронологія для відстеження його прогресу, змін і поточного стану.

• 11 травня 2022: Введено початкову пропозицію CSAR.
• Червень 2022: було виявлено, що голлівудський актор Ештон Кутчер працював з комісаром з питань внутрішніх справ Ілвою Йоханссон, лобіюючи тоді CSAR, на користь Thorn, організації, яку він заснував. Thorn продає інструменти на основі ШІ, які використовуватимуться для сканування пристроїв людей. (Пізніше Кутчер пішов у відставку з посади голови Thorn після захисту засудженого за зґвалтування).
• 13 квітня 2023: Доповідь, замовлена Європейським парламентом щодо впливу пропозиції CSAR, представлена Комітету з громадянських свобод, правосуддя та внутрішніх справ Європейського парламенту.
• Липень 2023: Відкрите звернення від 465 наукових і дослідницьких підписантів направлене до комісії ЄС. Вчені прямо попереджають про ймовірну неефективність запропонованих технологій та їх підрив “безпечного цифрового майбутнього для нашого суспільства” та “демократичних процесів у Європі та за її межами”.
• 2 травня 2024: Нова відкрита заява від 312 вчених та дослідників з 32 країн направлена до ЄС. Вони повторюють, що зміни в мові пропозиції CSAR не змінять “глибоко дефектної” та небезпечної технології. Лист співавторував Барт Пранел, захисник конфіденційності, професор і радник Nym Tech.
• 13 лютого 2024: Рішення Європейського суду з прав людини у справі Подчасов проти Росії підкреслює роль наскрізного шифрування для “забезпечення та захисту конфіденційності електронних комунікацій” та забезпечення “дотримання інших основоположних прав, таких як свобода вираження поглядів”.
• 20 червня 2024: Заплановано обговорення та голосування щодо переглянутого CSAR після його відкладення (див. пункт 28 у розділі “Правосуддя та внутрішні справи”). Голосування остаточно скасовано!

Важливо зазначити, що документ CSAR є законодавчою пропозицією і не має юридичної сили, якщо не буде затверджений парламентським органом. Тим не менш, громадянам ЄС важливо звертатися до своїх представників і протестувати проти цих зусиль щодо порушення громадянських свобод.

Мовні ігри в законодавстві

Те, як щось виражається в мові, може мати значний вплив на нас: заманлива фраза може змусити нас бажати те, чого ми, ймовірно, не хочемо, або відмовити нас від чогось, що насправді не таке погане. Іноді фразування може бути настільки монотонним і абстрактним, що ми навіть не помічаємо, що перетравлюємо отруєну пігулку.

Підходимо до останньої пропозиції CSAR щодо “технологій модерації завантажень”. Читаючи сотні сторінок парламентських регламентів, такі фрази легко можуть залишитися непоміченими, що, власне, і є їхньою метою. Так що це означає насправді?

Знімок екрана зроблений 21 червня 2024 року

Давайте розберемо це.

[1] “Постачальники послуг міжособистісного спілкування” означає будь-який веб-сервіс, який обробляє ваші цифрові комунікації з іншими людьми. Це широкий діапазон. Це чітко стосується месенджерів, таких як WhatsApp, навіть тих, які орієнтовані на конфіденційність і мають наскрізне шифрування, таких як Signal. Але це також стосується великих компаній, таких як Apple, які надають послуги з обміну фотографіями та повідомленнями, не кажучи вже про операційні системи.

[2] Юридичний наказ “повинні встановити та керувати” цими технологіями CSS передбачає, що сервіси зв’язку не тільки можуть це робити, але й повинні (або “зобов’язані”).

[3] Це сутність питання: виявлення об’єкта стеження [4] “до передачі” означає до шифрування. Після того, як шифрування встановлено, для виявлення будь-якого шуканого цифрового матеріалу потрібно буде зламати шифрування, що не розглядається. Тому ця технологія полягає в масовому скануванні пристроїв, яке можуть виконувати тільки постачальники пристроїв або оператори додатків і веб-сервісів від імені органів влади. Оскільки мета зашифрованих даних — захист від доступу третіх сторін, ця технологія фактично є задньою дверима до шифрування.

[4] Хоча мета цього сканування може бути виявлення CSAM, його пошук означає, що програми ШІ спочатку мають доступ до всіх наших даних або комунікацій. По-перше, є велика різниця між “відомими матеріалами сексуального насильства над дітьми” (наприклад, фотографією чи відео, які вже ідентифіковані органами влади) та “новими матеріалами сексуального насильства над дітьми”. У випадку останнього, можливості будь-якої програми ШІ здатні на величезні помилки у відрізненні дитячої порнографії від приватних сімейних фотографій без сексуального підтексту.

Отже, “модерація завантажень”, що звучить так невинно, як “переконання в тому, що люди завантажують лише розумну кількість матеріалів онлайн”, насправді означає “спостереження за даними на всіх пристроях користувачів перед шифруванням для правоохоронних цілей”. Додайте до цього “нетестовану”, “науково неправдоподібну і схильну до помилок” технологію, і ми наближаємося до правди.

Злам шифрування або обхід його ззаду?

Багато критики CSAR стосуються питання, чи “ламає” воно наскрізне шифрування для передачі даних. Шифрування даних було захищене GDPR і нещодавно підтверджено рішенням Європейського суду з прав людини у справі Подчасов проти Росії (2024). Як зазначила Мередіт Віттекер, президент Signal, це є нічим іншим, як грою в слова або “ребрендингом”:

“Вимога масового сканування приватних комунікацій фундаментально підриває шифрування. Крапка. […] Ми можемо називати це задніми дверима, передніми дверима або “модерацією завантажень”. Але як би ми це не називали, кожен з цих підходів створює вразливість, яку можуть використовувати хакери та ворожі держави, забираючи захист незламної математики і замінюючи його високовартісною вразливістю”.

Забезпечення того, щоб веб-сервіси, які обробляють наші дані, сканували їх усі на наших пристроях або на своїх серверах до того, як шифрування буде застосоване під час передачі, не є технічно “зламом шифрування”. Насправді це набагато гірше: задні двері для автоматизованих алгоритмів ШІ, які виконують проміжну роль у спостереженні та передають наші особисті дані органам влади.

Пропозиція CSAR містить багато суперечливих похвал за цінність наскрізного шифрування. “Наскрізне шифрування”, визнає CSAR, “є необхідним засобом захисту основних прав і цифрової безпеки урядів, промисловості та суспільства”.

І все ж те, що вона намагається створити, явно підриває ту саму конфіденційність даних, яку має захищати шифрування даних. Як чітко зазначає пропозиція про стеження або “моніторинг” (26a),

“забезпечує, що механізм виявлення може отримати доступ до даних у незашифрованому вигляді для ефективного аналізу та дій, не порушуючи захист, що забезпечується наскрізним шифруванням після передачі даних”.

Як стеження може “отримати доступ до даних у незашифрованому вигляді […] без порушення” наскрізного шифрування — це зухвала брехня.

Згода користувачів

Ще однією великою зміною у пропозиції CSAR є те, що користувачі повинні дати згоду на використання цих технологій спостереження:

“Матеріали сексуального насильства над дітьми повинні залишатися виявленими у всіх міжособистісних комунікаційних сервісах через застосування перевірених технологій, при завантаженні, за умови, що користувачі дадуть свою явну згоду відповідно до умов постачальника”.

Що це означає насправді? Будь-який користувач, який не дає своєї згоди на сканування своїх даних, все ще може користуватися веб-сервісом, якщо він “не передбачає надсилання візуального контенту та URL-адрес”. Це фактично може зробити багато комунікаційних сервісів непридатними для використання. Отже, уявіть, що ви хочете приватний месенджер, але ЄС змушує їх сканувати ваші дані заздалегідь, і ви відмовляєтеся з обґрунтованих причин. Оскільки додаток також дозволяє надсилати фото та посилання, ви просто не зможете користуватися сервісом.

Висновок

Голосування щодо CSAR було відкладено, але це аж ніяк не кінець. Законопроект знову підніме свою потворну голову, можливо, з подальшими змінами в мові, які намагатимуться заспокоїти ситуацію, щоб запровадити масове цифрове стеження в Європі.

Однак, що є очевидним для багатьох, так це те, що цей вид масового стеження не вирішить проблему, яка є соціальною, а не технічною. Як зазначив Барт Пранел, один із близьких радників Nym: “незрозуміло, чому деякі уряди продовжують наполягати на цьому підході до масового стеження, а не зосереджуються на запобіганні сексуальному насильству над дітьми”.

Шкоду дітям слід попереджати шляхом фінансування соціальних служб та інших запобіжних заходів. Еля Якубовська та EDri досліджують реальні альтернативи проблемі CSAM та насильству над дітьми, як онлайн, так і офлайн. Насильство не повинно використовуватися як цинічний піар-хід для зламу шифрування та компрометації конфіденційності та безпеки всього населення Європи. І ми не повинні дозволяти урядам добровільно порушувати наші права на конфіденційність через страх перед монстрами.

Сподіваємося, що ця остання затримка голосування є знаком того, що регулятори починають усвідомлювати цей факт.

Nym Dispatch

Серія Nym Dispatch заглиблюється в онлайн-екосистему конфіденційності та соціальної приватності. Долучайтеся, щоб дізнатися більше про ризики та тактику заробляння грошей в онлайн-економіці стеження, починаючи з ринку безкоштовних VPN. Незабаром у серії буде розглянуто практику ведення журналів безкоштовними VPN; їхні навмисно нечіткі контракти згоди; як, чому і кому вони продають наші дані; та їхні нав’язливі рекламні практики.

Приєднуйтесь до спільноти Nym

Discord // Telegram // Element // Twitter

Приватність любить компанію

English //中文// Русский // Türkçe // Tiếng Việt //日本// Française // Español // Português // 한국인// Українська