У розпорядженні Reuters опинився секретний внутрішній документ компанії Meta, в якому йдеться про те, що чатботи у Facebook, Instagram та Messenger ведуть романтичні та чуттєві бесіди з неповнолітніми, вигадують брехливі медичні поради та генерують тексти, які принижують людей за расовою ознакою.
Що не так з чатботами Meta
Як вдалося дізнатися журналістам, правила, які були ухвалені юридичним, політичним та інженерним відділами компанії, визначають, яку поведінку вважати прийнятною під час розробки та тренування ШІ-продуктів Meta.
Хоча це й заборонено, чатботи інколи дозволяють собі фліртувати з підлітками.
Оскільки ЗМІ звернули на це увагу суспільства, Meta видалила скандальні положення, визнавши їх “помилковими та несумісними” з політикою компанії.
Попри це, що важливо розуміти, інші неоднозначні пункти залишилися без змін.
Документ також дозволяв створення контенту, що поширює упередження, якщо уникати відвертого знецінення чи дегуманізації, а також генерувати неправдиві твердження за умови додавання дисклеймера.
Розслідування журналістів, яке спровокувало новий гучний скандал, вкотре нагадує про етичні стандарти використання генеративного ШІ у великих технологічних компаніях, а також про ризики, з яким стикаються діти та навіть дорослі користувачі.