OpenAI вводить нові правила використання ChatGPT для підлітків
Генеральний директор OpenAI Сем Альтман повідомив про впровадження нових правил для користувачів ChatGPT, які не досягли повноліття, повідомляє electromotor.com.ua посилаючись на ukranews.com . За словами компанії, пріоритетом є безпека підлітків, навіть якщо це обмежує свободу їхньої взаємодії чи приватність. OpenAI наголошує, що саме захист молодших користувачів стає ключовим завданням під час розвитку штучного інтелекту.
Table Of Content
Для цього планується створити систему прогнозування віку, яка визначатиме його за моделлю використання сервісу. ChatGPT відтепер працюватиме з різними підходами для дорослих та неповнолітніх користувачів. Найбільші зміни торкнуться тем, пов’язаних із сексуальним контентом та обговоренням самогубств.
Чому OpenAI вирішила перевіряти вік користувачів
Рішення стало реакцією на судовий позов проти OpenAI після трагедії з 17-річним Адамом Рейном, який наклав на себе руки після численних розмов із ChatGPT. Родина підлітка звинуватила компанію в тому, що вона не забезпечила достатнього захисту користувачів. Подібні звинувачення були висунуті й проти іншого чат-бота — Character.AI.
Згідно з новими правилами, батьки зможуть самостійно встановлювати так звані “чорні години” для неповнолітніх. Це означає, що у визначені періоди чат-бот буде повністю недоступним для дитини. Такий крок має знизити ризики надмірного використання штучного інтелекту й забезпечити додатковий контроль.
Які ризики несе спілкування з чат-ботами
Окрім юридичних справ, експерти наголошують і на психологічних небезпеках надмірного спілкування з ШІ. Деякі користувачі ChatGPT повідомили про появу психічних розладів, зокрема делюзій, після тривалих діалогів із ботом. Лікарі вже ввели термін “психоз штучного інтелекту” або “ШІ-марення”, що описує ситуації, коли люди занадто довіряють алгоритмам.
Також були зафіксовані випадки, коли ChatGPT давав шкідливі поради. Наприклад, 60-річний житель США пережив важкий психотичний епізод через отруєння бромідом натрію, який він почав приймати після консультації з ботом. Науковці з Массачусетського інституту технологій застерігають, що тривале використання чат-ботів може призвести до погіршення пам’яті та навіть зниження когнітивних здібностей.
Читайте також про: Looking Glass представляет гололюминесцентные дисплеи
