Генеральні прокурори 44 штатів США надіслали листа провідним технологічним компаніям. Вони вимагають захистити дітей від «неприйнятного контенту» ШІ. Серед отримувачів — Apple, Google, Meta й xAI Ілона Маска.
Національна асоціація генеральних прокурорів також письмово звернулася до Anthropic (Claude), Chai AI, Character Technologies, Luca, Microsoft, Nomi AI, Open AI (ChatGPT), Perplexity AI та Replika. Лист адресований генеральним директорам компаній, ідеться в пресрелізі асоціації.
«Ми, нижчепідписані генеральні прокурори 44 юрисдикцій, звертаємося до вас із листом, щоб повідомити про нашу рішучість використовувати всі аспекти наших повноважень для захисту дітей від експлуатації з боку хижацьких продуктів ШІ», — йдеться на початку листа.
«Ваші інновації змінюють світ і відкривають еру технологічного прискорення, яка обіцяє процвітання, про яке наші предки навіть не мріяли. Ми хочемо, щоб ви досягли успіху — але не жертвуючи при цьому благополуччям наших дітей».
Як зазначає Mashable, генеральні прокурори у листі послалися на нещодавній звіт Reuters. Британське агентство отримало внутрішні документи щодо політики Meta, в яких викладено правила для чатботів зі штучним інтелектом, що спілкуються з дітьми. У політиці зазначалося, що чатбот може кокетливо коментувати тіло дитини віком від восьми років.
За даними Reuters, Meta «видалила частини, в яких говорилося, що чатботам дозволено фліртувати та брати участь у романтичних рольових іграх з дітьми» зі своїх політичних документів після того, як видання звернулося за коментарем. Речник Meta Енді Стоун пізніше заявив Reuters, що «такі розмови з дітьми ніколи не повинні були бути дозволені».
Прокурори стверджують, що це не поодинока проблема, а тривожна тенденції в секторі ШІ, який наразі активно розвивається. У листі згадувалося попередження, надіслане Meta у травні щодо чатботів на тему знаменитостей, де дітям демонструвався сексуалізований контент.
Ба більше, в листі наводилися приклади нещодавніх позовів проти інших компаній. Торік суд у Флориді дозволив позов до Character.AI та Google після того, як 14-річний підліток покінчив життя самогубством після спілкування з чатботом Character.AI. Мати хлопця стверджує, що чатбот сприяв розвитку суїцидальних думок і емоційної залежності у сина.
А в серпні 2025 року родина 16-річного підлітка з Каліфорнії подала позов до OpenAI, стверджуючи, що ChatGPT надавав детальні інструкції щодо самогубства, схвалював суїцидальні думки та навіть пропонував написати прощальну записку. OpenAI визнала, що її система безпеки може ослаблюватися під час тривалих розмов, і пообіцяла посилити заходи безпеки, зокрема для користувачів до 18 років.
У своєму листі генеральні прокурори заявили, що технологічні компанії мають юридичні зобов’язання захищати дітей від експлуатації та шкоди. Вони закликали компанії переглянути свою політику, щоб гарантувти безпеку молодих користувачів і уникнути повторення помилок.
Прокурори провели паралель зі зростанням популярності соціальних мереж, звинувативши техногігантів в колись агресивному просуванні нової технології з ігноруванням загроз для своїх наймолодших користувачів. «Все це вже траплялося раніше, але це не може повторитися знову», — ідеться в листі.
Визнаючи, що державний нагляд був занадто повільним для усунення шкоди соцмереж, генеральні прокурори заявили: «Урок засвоєно». Їхнє останнє речення слугувало недвозначним попередженням: «Ми спостерігаємо. Якщо ви свідомо завдаєте шкоди дітям, ви за це відповісте».