Генеральний директор OpenAI Сем Альтман оголосив про низку нових правил для користувачів, зокрема про обіцянку суттєво змінити спосіб взаємодії ChatGPT з користувачами віком до 18 років.
«Ми ставимо безпеку вище за конфіденційність та свободу підлітків», – йдеться у дописі. «Це нова та потужна технологія, і ми вважаємо, що неповнолітні потребують значного захисту».
Зміни для неповнолітніх користувачів стосуються саме розмов на сексуальні теми або самоушкодження. Згідно з новою політикою, ChatGPT буде навчено більше не брати участі в «фліртових розмовах» з неповнолітніми користувачами, а також будуть встановлені додаткові запобіжні заходи щодо обговорення самогубства. Якщо неповнолітній користувач використовує ChatGPT, щоб уявити собі суїцидальні сценарії, сервіс спробує зв’язатися з його батьками або, в особливо серйозних випадках, з місцевою поліцією.
На жаль, ці сценарії не є гіпотетичними. OpenAI зараз стикається з позовом про неправомірне вбивство від батьків Адама Рейна , який покінчив життя самогубством після місяців взаємодії з ChatGPT. Character.AI, ще один споживчий чат-бот, стикається з аналогічним позовом . Хоча ризики особливо актуальні для неповнолітніх користувачів, які розглядають можливість самоушкодження, ширше явище марення, що підживлюється чат-ботами, викликало широке занепокоєння, особливо тому, що споживчі чат-боти стали здатними на більш тривалу та детальну взаємодію.
Поряд з обмеженнями щодо контенту, батьки, які реєструють обліковий запис неповнолітнього користувача, матимуть право встановлювати «години блокування», протягом яких ChatGPT недоступний, функція, яка раніше не була доступна.
Нові правила ChatGPT запроваджено в той самий день, що й слухання в Комітеті Сенату з питань юстиції під назвою «Вивчення шкоди чат-ботів зі штучним інтелектом». Слухання було оголошено сенатором Джошем Хоулі (республіканець від штату Міссурі) у серпні . Батько Адама Рейна має виступити на слуханнях, серед інших гостей.
Слухання також буде зосереджено на результатах розслідування Reuters , яке виявило документи політики, що, очевидно, заохочують до сексуальних розмов з неповнолітніми користувачами. Meta оновила свою політику щодо чат-ботів після публікації звіту.
Розділення неповнолітніх користувачів буде значним технічним викликом, і OpenAI детально описав свій підхід в окремій публікації в блозі . Сервіс «розробляє довгострокову систему для розуміння того, чи є хтось старше 18 років чи молодше», але в багатьох неоднозначних випадках система за замовчуванням використовуватиме більш обмежувальні правила.
Для стурбованих батьків найнадійніший спосіб переконатися, що неповнолітнього користувача буде розпізнано, – це пов’язати обліковий запис підлітка з наявним обліковим записом батьків. Це також дозволяє системі безпосередньо сповіщати батьків, коли вважається, що підліток перебуває у скрутному становищі.
Але в тій самій публікації Альтман наголосив на постійному зобов’язанні OpenAI щодо конфіденційності користувачів та наданні дорослим користувачам широкої свободи у тому, як вони взаємодіють із ChatGPT. «Ми розуміємо, що ці принципи суперечать один одному, — підсумовується в публікації, — і не всі погодяться з тим, як ми вирішуємо цей конфлікт».
No Comment! Be the first one.