Новий законопроєкт, запропонований у Каліфорнії ( SB 243 ), вимагатиме від компаній ШІ періодично нагадувати дітям, що чат-бот — це ШІ, а не людина. Законопроєкт, запропонований сенатором Каліфорнії Стівом Паділлою , покликаний захистити дітей від «звикання, ізоляції та впливових аспектів» ШІ.
На додаток до обмеження використання компаніями «шаблонів залучення, що викликають звикання», законопроєкт вимагатиме від компаній ШІ надавати щорічні звіти Державному департаменту охорони здоров’я із зазначенням того, скільки разів вони виявляли суїцидальні думки у дітей, які використовують платформу, а також кількість разів чат-бот підіймав цю тему. Це також змусить компанії повідомляти користувачам, що їхні чат-боти можуть не підходити для деяких дітей.
Минулого року одна з батьків подала позов про смерть проти Character.AI, стверджуючи, що її спеціальні чат-боти AI є «невиправдано небезпечними» після того, як її підліток, який постійно спілкувався з ботами, помер самогубством. Інший позов звинуватив компанію в надсиланні «шкідливих матеріалів» підліткам. Пізніше Character.AI оголосив, що працює над батьківським контролем і розробив нову модель штучного інтелекту для підлітків, яка блокуватиме «делікатний або непристойний» вихід.
«Наші діти — не лабораторні щури, на яких технологічні компанії можуть експериментувати ціною їх психічного здоров’я», — сказав сенатор Паділья в прес-релізі. «Нам потрібен захист здорового глузду для користувачів чат-ботів, щоб запобігти розробникам використовувати стратегії, які, як вони знають, викликають звикання та хижаки».
Оскільки штати та федеральний уряд вдвічі посилюють безпеку платформ соціальних медіа, чат-боти штучного інтелекту незабаром можуть стати наступною ціллю законодавців.