Захисники конфіденційності та цифрових прав в США б’ють на сполох через закон, який багато хто очікував би від них схвалити: федеральні заходи боротьби з порнографією помсти та діпфейками, згенерованими штучним інтелектом.
Нещодавно підписаний Закон про видалення контенту забороняє публікацію неналежних зображень відвертого характеру — реальних або згенерованих штучним інтелектом — і надає платформам лише 48 годин, щоб виконати запит жертви на видалення контенту або ж нести відповідальність. Хоча цей закон широко схвалюється як давно очікувана перемога для жертв, експерти також попереджають, що його розпливчасте формулювання, слабкі стандарти перевірки заяв і жорсткі вимоги можуть прокласти шлях для перевищення повноважень, цензури легітимного контенту і навіть стеження.
«Модерація контенту у великих масштабах є дуже проблематичною і завжди призводить до цензури важливих і необхідних висловлювань», – сказала TechCrunch Індія Маккінні, директорка з федеральних справ Electronic Frontier Foundation, організації з цифрових прав.
Онлайн-платформи мають один рік, щоб запровадити процедуру видалення інтимних зображень без згоди (NCII). Хоча закон вимагає, щоб запити на видалення надходили від жертв або їхніх представників, він вимагає лише фізичного або електронного підпису — не потрібно посвідчення особи з фотографією чи інша форма підтвердження. Це, ймовірно, спрямовано на зменшення бар’єрів для жертв, але може створити можливості для зловживань.
«Я дуже хочу помилятися, але думаю, що буде більше запитів на видалення зображень, на яких зображені квір- та трансгендерні люди у стосунках, і навіть більше того, я думаю, що це буде порно за згодою», – сказав Маккінні.
Сенатор Марша Блекберн (республіканка від Теннессі), співавторка Закону про заборону доступу до контенту, також підтримала Закон про безпеку дітей в Інтернеті , який покладає на платформи обов’язок захищати дітей від шкідливого контенту в Інтернеті. Блекберн заявила, що, на її думку, контент, пов’язаний з трансгендерними людьми , шкідливий для дітей. Аналогічно, Фонд спадщини — консервативний аналітичний центр, що стоїть за Проектом 2025 — також заявив , що «приховування трансгендерного контенту від дітей захищає дітей».
Через відповідальність, яку несуть платформи, якщо вони не видаляють зображення протягом 48 годин після отримання запиту, «за замовчуванням вони просто видалятимуть його, не проводячи жодного розслідування, щоб з’ясувати, чи це справді NCII, чи це інший тип захищеної свободи слова, чи взагалі це стосується особи, яка подає запит», – сказав Маккінні.
Snapchat та Meta заявили, що підтримують закон, але жоден з них не відповів на запити TechCrunch про додаткову інформацію про те, як вони перевірятимуть, чи є особа, яка запитує видалення, жертвою.
Mastodon, децентралізована платформа, яка розміщує власний флагманський сервер, до якого можуть приєднатися інші, повідомила TechCrunch, що схилятиметься до видалення, якщо буде надто складно перевірити жертву.
Mastodon та інші децентралізовані платформи, такі як Bluesky або Pixelfed, можуть бути особливо вразливими до негативного впливу правила 48-годинного видалення. Ці мережі покладаються на незалежно керовані сервери, часто якими керують некомерційні організації або окремі особи. Згідно із законом, FTC може розглядати будь-яку платформу, яка «не дотримується належним чином» вимог щодо видалення, як таку, що вчиняє «несправедливі або оманливі дії чи практики» – навіть якщо хостинг-провайдер не є комерційною організацією.
«Це викликає занепокоєння, на перший погляд, але особливо зараз, коли голова Федеральної торгової комісії (FTC) вжив безпрецедентних кроків для політизації агентства та прямо пообіцяв використати владу агентства для покарання платформ та сервісів на ідеологічній , а не принциповій основі», – йдеться у заяві Ініціативи з кіберзахисту громадянських прав, некомерційної організації, яка займається припиненням порнографії помсти .
Проактивний моніторинг
Маккінні прогнозує, що платформи почнуть модерувати контент до його поширення, щоб у майбутньому у них було менше проблемних публікацій для видалення.
Платформи вже використовують штучний інтелект для моніторингу шкідливого контенту.
Кевін Го, генеральний директор і співзасновник стартапу Hive , що займається виявленням контенту, створеного штучним інтелектом, сказав, що його компанія співпрацює з онлайн-платформами для виявлення діпфейків та матеріалів про сексуальне насильство над дітьми (CSAM). Серед клієнтів Hive є Reddit, Giphy, Vevo, Bluesky та BeReal.
«Ми насправді були однією з технологічних компаній, які підтримали цей законопроект», – сказав Го TechCrunch. «Це допоможе вирішити деякі досить важливі проблеми та змусить ці платформи більш проактивно впроваджувати рішення».
Модель Hive — це програмне забезпечення як послуга, тому стартап не контролює, як платформи використовують його продукт для позначення або видалення контенту. Але Го сказав, що багато клієнтів вставляють API Hive під час завантаження, щоб контролювати, перш ніж щось буде надіслано спільноті.
Речник Reddit повідомив TechCrunch, що платформа використовує «складні внутрішні інструменти, процеси та команди для розв’язання проблеми та видалення» NCII. Reddit також співпрацює з некомерційною організацією SWGfl для розгортання свого інструменту StopNCII, який сканує живий трафік на наявність збігів у базі даних відомих NCII та видаляє точні збіги. Компанія не повідомила, як вона гарантуватиме, що особа, яка запитує видалення, є жертвою.
Маккінні попереджає, що такий моніторинг може поширитися на зашифровані повідомлення в майбутньому. Хоча закон зосереджений на публічному або напівпублічному поширенні, він також вимагає від платформ «видаляти та докладати розумних зусиль для запобігання повторному завантаженню» інтимних зображень, отриманих без згоди. Вона стверджує, що це може стимулювати проактивне сканування всього контенту, навіть у зашифрованих просторах. Закон не передбачає жодних винятків для сервісів обміну повідомленнями з наскрізним шифруванням, таких як WhatsApp, Signal або iMessage.
Meta, Signal та Apple не відповіли на запит TechCrunch про надання додаткової інформації щодо своїх планів щодо зашифрованого обміну повідомленнями.
Ширші наслідки свободи слова
4 березня Трамп виступив зі спільним зверненням до Конгресу, в якому він високо оцінив закон «Про заборону» та заявив, що з нетерпінням чекає на його підписання.
«І я також збираюся використати цей рахунок для себе, якщо ви не заперечуєте», – додав він. «Ні до кого в інтернеті не ставляться гірше, ніж до мене».
Хоча аудиторія посміялася з цього коментаря, не всі сприйняли його як жарт. Трамп не соромиться придушувати або мститися за несприятливі висловлювання, будь то називання основних ЗМІ « ворогами народу », заборона Associated Press входити до Овального кабінету попри рішення суду чи припинення фінансування NPR та PBS.
У четвер адміністрація Трампа заборонила Гарвардському університету приймати іноземних студентів, що загострило конфлікт, який розпочався після того, як Гарвард відмовився виконати вимоги Трампа щодо внесення змін до навчальної програми та виключення, серед іншого, контенту, пов’язаного з DEI. У відповідь Трамп заморозив федеральне фінансування Гарварду та пригрозив скасувати статус університету, звільненого від сплати податків.
«У той час, коли ми вже бачимо, як шкільні ради намагаються заборонити книги, і ми бачимо, як деякі політики дуже прямо висловлюються щодо типів контенту, який вони не хочуть, щоб люди коли-небудь бачили, чи то критична теорія раси, інформація про аборти чи інформація про зміну клімату… нам дуже незручно бачити, як члени обох партій відкрито виступають за модерацію контенту в такому масштабі, враховуючи нашу попередню роботу з модерації контенту», – сказав Маккінні.