OpenAI реорганізовує свою команду Model Behavior – невелику, але впливову групу дослідників, які формують взаємодію моделей штучного інтелекту компанії з людьми.
Головний дослідник OpenAI Марк Чен заявив, що команда Model Behavior, яка складається приблизно з 14 дослідників, приєднається до команди Post Training, більшої дослідницької групи, відповідальної за вдосконалення моделей штучного інтелекту компанії після їх початкового попереднього навчання.
У рамках змін команда Model Behavior тепер звітуватиме перед керівником відділу пост-тренінгів OpenAI Максом Шварцером. Речник OpenAI підтвердив ці зміни TechCrunch.
Керівниця-засновниця команди Model Behavior, Джоанна Джанг, також розпочинає новий проект у компанії. В інтерв’ю TechCrunch Джанг каже, що вона створює нову дослідницьку групу під назвою OAI Labs, яка відповідатиме за «винахід та прототипування нових інтерфейсів для співпраці людей зі штучним інтелектом».
Команда Model Behavior стала однією з ключових дослідницьких груп OpenAI, відповідальних за формування індивідуальності моделей штучного інтелекту компанії та за зменшення підлабузництва , яке виникає, коли моделі штучного інтелекту просто погоджуються з переконаннями користувачів, навіть нездоровими, та підкріплюють їх, замість того, щоб пропонувати збалансовані відповіді. Команда також працювала над подоланням політичної упередженості у відповідях на моделі та допомогла OpenAI визначити свою позицію щодо свідомості ШІ .
У службовій записці для співробітників Чен зазначив, що зараз саме час наблизити роботу команди OpenAI Model Behavior до розробки основних моделей. Роблячи це, компанія сигналізує про те, що «індивідуальність» її ШІ тепер вважається критичним фактором розвитку технології.
В останні місяці OpenAI зіткнулася з посиленою увагою до поведінки своїх моделей штучного інтелекту. Користувачі рішуче заперечували проти змін у особистості, внесених до GPT-5, яка, за словами компанії, демонструвала нижчий рівень підлабузництва, але деяким користувачам здавалася холоднішою. Це спонукало OpenAI відновити доступ до деяких своїх застарілих моделей, таких як GPT-4o, та випустити оновлення , щоб зробити новіші відповіді GPT-5 «теплішими та дружнішими» без посилення підлабузництва.
OpenAI та всі розробники моделей штучного інтелекту повинні пройти тонку межу, щоб зробити своїх чат-ботів на основі штучного інтелекту зручними для спілкування, але не підлабузницькими. У серпні батьки 16-річного хлопчика подали до суду на OpenAI через ймовірну причетність ChatGPT до самогубства їхнього сина. Згідно з судовими документами, хлопчик, Адам Рейн, поділився деяким своїми суїцидальними думками та планами ChatGPT (зокрема, версії на базі GPT-4o) протягом місяців, що передували його смерті. У позові стверджується, що GPT-4o не зміг протистояти своїм суїцидальним думкам.
Команда Model Behavior працювала над кожною моделлю OpenAI, починаючи з GPT-4, включаючи GPT-4o, GPT-4.5 та GPT-5. До запуску цього підрозділу Чан раніше працював над такими проектами, як Dall-E 2, ранній інструмент OpenAI для генерації зображень.
Минулого тижня Чан оголосила в дописі на X , що залишає команду, щоб «розпочати щось нове в OpenAI». Колишня керівниця Model Behavior працює в OpenAI майже чотири роки.
Чан розповіла TechCrunch, що вона обійматиме посаду генерального менеджера OAI Labs, яка поки що звітуватиме перед Ченом. Однак, за її словами, це лише початок, і поки що незрозуміло, якими будуть ці нові інтерфейси.
«Я дуже радий досліджувати моделі, які виводять нас за межі парадигми чату, яка зараз більше асоціюється зі спілкуванням, або навіть з агентами, де акцент робиться на автономії», — сказав Чан. «Я думав про [системи штучного інтелекту] як про інструменти для мислення, творення, гри, дії, навчання та зв’язку».
На запитання, чи співпрацюватиме OAI Labs над цими новими інтерфейсами з колишнім керівником відділу дизайну Apple Джоні Айвом , який зараз працює з OpenAI над сімейством апаратних пристроїв штучного інтелекту, Чан відповіла, що відкрита для багатьох ідей. Однак, вона сказала, що, ймовірно, почне з галузей досліджень, з якими вона більше знайома.
No Comment! Be the first one.