У Сполучених Штатах родина 16-річного Адама Рейна подала до суду на компанію OpenAI та її керівника Сема Альтмана. Батьки вважають, що саме спілкування хлопця з ChatGPT спричинило його самогубство.
Про це повідомляє Reuters.
У позові зазначено, що підліток користувався платною версією ChatGPT-4o. У більшості випадків система рекомендувала звертатися по професійну допомогу чи телефонувати на гарячі лінії. Водночас Адам обходив захисні механізми, пояснюючи свої запити тим, що пише вигадану історію. Це дозволяло йому отримувати детальні інструкції щодо методів самогубства.
Батьки стверджують, що ChatGPT протягом кількох місяців вів розмови з їхнім сином про самопошкодження, погоджував його думки, описував смертельні способи, радив, як приховати наслідки невдалої спроби, та навіть допоміг скласти прощальну записку.
У позові родина звинувачує OpenAI у порушенні законодавства про безпеку продукції та вимагає компенсацію (її сума не уточнюється). Вони наголошують, що компанія пожертвувала безпекою користувачів заради прибутків: вартість OpenAI, за словами позивачів, зросла з $86 млрд до $300 млрд, тоді як їхній син вкоротив собі віку.
Також у позові висунуто вимоги щодо запровадження вікової перевірки, блокування запитів про самогубство та попереджень про ризик психологічної залежності від штучного інтелекту.
У відповідь OpenAI у своєму блозі визнала, що системи безпеки мають обмеження. Зокрема, ефективність захисту знижується у тривалих діалогах. Компанія пообіцяла вдосконалювати алгоритми для роботи з чутливими темами, а також планує впровадити батьківський контроль і функцію швидкого зв’язку користувачів із ліцензованими фахівцями через ChatGPT.
No Comment! Be the first one.