Генеральний прокурор Каліфорнії Роб Бонта та генеральний прокурор штату Делавер Кеті Дженнінгс зустрілися з OpenAI та надіслали відкритого листа, щоб висловити свою стурбованість щодо безпеки ChatGPT, особливо для дітей та підлітків.
Це попередження пролунало через тиждень після того, як Бонта та 44 інші генеральні прокурори надіслали листа до 12 провідних компаній, що займаються штучним інтелектом, після повідомлень про сексуально неприйнятні взаємодії між чат-ботами зі штучним інтелектом та дітьми.
«З моменту публікації цього листа ми дізналися про роздираючу горе смерть внаслідок самогубства одного молодого каліфорнійця після тривалої взаємодії з чат-ботом OpenAI, а також про подібне тривожне вбивство-самогубство в Коннектикуті», – пишуть Бонта та Дженнінгс. «Які б запобіжні заходи не були на місці, вони не спрацювали».
Двоє чиновників зараз досліджують запропоновану реструктуризацію OpenAI в комерційну організацію, щоб забезпечити збереження місії некомерційної організації . Ця місія «включає забезпечення безпечного розгортання штучного інтелекту» та створення загального штучного інтелекту (ЗШІ) на благо всього людства, «включаючи дітей», згідно з листом.
«Перш ніж ми почнемо отримувати вигоду, нам потрібно забезпечити вжиття належних заходів безпеки, щоб не завдати шкоди», – продовжується в листі. «Ми спільно вважаємо, що OpenAI та галузь загалом не досягли належного рівня у забезпеченні безпеки під час розробки та впровадження продуктів штучного інтелекту. Як генеральні прокурори, громадська безпека є однією з наших основних місій. Продовжуючи наш діалог щодо плану рекапіталізації OpenAI, ми повинні працювати над прискоренням та посиленням безпеки як керівної сили в майбутньому цієї потужної технології».
Бонта та Дженнінгс запросили більше інформації про поточні запобіжні заходи безпеки та управління OpenAI, і заявили, що очікують, що компанія вживе негайних заходів для усунення недоліків, де це доречно.
Брет Тейлор, голова правління OpenAI, заявив, що компанія прагне розв’язати проблеми генеральних прокурорів.
«Ми розбиті серцем через ці трагедії, і наші найглибші співчуття родинам», – сказав Тейлор. «Безпека – наш пріоритет, і ми тісно співпрацюємо з політиками по всьому світу».
OpenAI заявила, що працює над розширенням захисту підлітків за допомогою батьківського контролю та можливості отримувати сповіщення про те, що їхня дитина перебуває у стані гострого стресу.