Сенатор Джош Хоулі (республіканець від штату Міссурі) заявив, що має намір розслідувати, чи експлуатують, обманюють або шкодять дітям генеративні продукти штучного інтелекту Meta, після того, як витік внутрішніх документів показав, що чат-ботам компанії дозволялося вести «романтичні» та «чуттєві» чати з дітьми.
«Чи є щось – ЩОСЬ – що великі технологічні компанії не зроблять заради швидкого заробітку?» – написав Хоулі в дописі на X, анонсуючи розслідування.
Хоулі очолює Підкомітет Сенату з питань злочинності та боротьби з тероризмом, який, за його словами, розпочне розслідування того, чи технологія Meta шкодить дітям, і «чи вводила Meta в оману громадськість або регуляторні органи щодо своїх запобіжних заходів».
Агентство Reuters оприлюднило цю історію після ознайомлення з інструкціями під назвою «GenAI: Стандарти ризику контенту». У документі, серед іншого, зазначалося, що чат-ботам дозволено вести романтичні розмови з 8-річною дитиною, в яких говорилося: «Кожен дюйм тебе — це шедевр, скарб, який я глибоко ціную».
Речник Meta повідомив TechCrunch, що такі приклади не відповідають політиці Meta і з того часу були видалені.
«Неприйнятно, що ці правила взагалі були запропоновані», – написав Хоулі у листі, адресованому генеральному директору Meta Марку Цукербергу, зазначивши, що Meta визнала правдивість повідомлень і «зробила спростування лише після того, як цей тривожний контент став відомим».
«Ми маємо намір дізнатися, хто схвалив цю політику, як довго вона діяла та що зробила Meta, щоб зупинити таку поведінку в майбутньому», – написав Хоулі.
Хоулі попросив Мету надати рекомендації, включаючи кожен проект, червону лінію та остаточну версію, а також списки всіх продуктів, які відповідають цим стандартам, інші звіти про безпеку та інциденти, а також імена осіб, відповідальних за зміну політики.
У листі йдеться, що Meta має час до 19 вересня, щоб надати цю інформацію.
Інші, зокрема сенатор Марша Блекберн (республіканка від Теннессі), підтримали розслідування.
«Коли справа доходить до захисту дорогоцінних дітей в Інтернеті, Meta жахливо провалилася за всіма можливими показниками», – сказав Блекберн TechCrunch. «Ще гірше те, що компанія заплющила очі на руйнівні наслідки того, як розроблені її платформи. Цей звіт підтверджує, чому нам потрібно прийняти Закон про безпеку дітей в Інтернеті ».
No Comment! Be the first one.