З моменту запуску наприкінці 2022 року, ChatGPT від OpenAI використовувався сотнями мільйонів людей у всьому світі для написання електронних листів, проведення досліджень та мозкового штурму ідей. Але в новому випадку використання люди завантажують власні фотографії, просять бота безжалісно оцінити свою зовнішність та діляться результатами в соціальних мережах. Багато хто також просить бота розробити план, щоб вони «сяяли» або покращували свою зовнішність. Користувачі кажуть, що бот, своєю чергою, рекомендував їм певні продукти, від фарби для волосся до ботоксу. Деякі люди кажуть, що витратили тисячі доларів, дотримуючись порад штучного інтелекту.
Ця тенденція підкреслює готовність людей покладатися на чат-ботів не лише для отримання інформації та фактів, а й для отримання думок щодо дуже суб’єктивних тем, таких як краса. Деякі користувачі вважають відповіді ШІ більш неупередженими, але експерти кажуть, що ці інструменти мають приховані упередження, які відображають дані їхнього навчання або фінансові стимули їхнього розробника. Коли чат-бот розмовляє, він черпає інформацію з величезних масивів інтернет-контенту, починаючи від рецензованих досліджень і закінчуючи мізогіністськими веб-форумами. Критики технологій та краси кажуть, що звертатися до інструментів ШІ для отримання зворотного зв’язку щодо нашої зовнішності ризиковано.
За словами аналітиків, оскільки компанії зі штучним інтелектом починають пропонувати рекомендації щодо покупок та продуктів, чат-боти також можуть спонукати споживачів витрачати більше.
«Штучний інтелект просто повторює те, що видно в Інтернеті, і багато з цього було розроблено для того, щоб люди почувалися погано та купували більше товарів», – сказала аналітик з комерції Forrester Емілі Пфайффер.
З усім тим, багато споживачів кажуть, що цінують критику від чат-бота, який пропонує іншу думку, ніж їхні друзі та родина.
32-річна Кайла Дрю сказала, що звертається до ChatGPT за порадами «з усіх питань», від того, як прикрасити свій дім, до того, що купити в продуктовому магазині. Нещодавно вона попросила бота дати чесний відгук про те, як вона може виглядати привабливіше. Бот отримав поради щодо її шкіри, волосся, брів, вій, макіяжу та одягу — Дрю, за її словами, дотримувалася всіх цих рекомендацій. Наразі вона витратила близько 200 доларів.
Якби справжні люди в її житті прямо відгукувалися про її зовнішність, це, ймовірно, образило б її почуття, сказала Дрю. Але з огляду на ChatGPT, до якого Дрю звертається займенниками «вона», все це здається більш прийнятним.
«Сьогодні я запитала про відбілювання зубів, а вона відповіла: «Переконайтеся, що ваша гігієна порожнини рота хороша», а я відповіла: «Чорт, дівчинко», — сказала Дрю. «Ніхто інший не підійшов до мене і не сказав би цього. Це було досить круто, бо, мабуть, мені потрібно було це почути».
Користувачі розглядають ChatGPT як більш об’єктивний показник краси, оскільки, на відміну від друзів та родини, він не враховує такі якості, як доброта чи гумор, сказала Джессіка ДеФіно, б’юті-критикиня, яка пише інформаційний бюлетень Review of Beauty. Стандарти краси епохи Інтернету перетворюють «я» на об’єкт, сказала вона, і що може бути кращим способом оцінити об’єкт, ніж запитати інший (на базі штучного інтелекту) об’єкт?
«Якщо ми намагаємося оптимізувати себе як прекрасні об’єкти, ми не можемо враховувати внесок людини, яка, скажімо, закохана в нас», – сказав ДеФіно.
Коли боти дають поради, хто насправді говорить?
Цього місяця OpenAI заявила , що оновлює ChatGPT, щоб показувати продукти, зокрема зображення, деталі та посилання, коли користувачі, здається, роблять покупки. Деякі експерти з технологій та краси застерігають, що пропозиції бота служать цілям його розробника, а не користувача.
Компаніям, що займаються штучним інтелектом, потрібні нові джерела доходу — деякі з них витрачають мільярди на створення та розміщення інструментів штучного інтелекту. Залучення чат-ботів для показу спонсорованих продуктів та реклами — один із потенційних шляхів розвитку: Perplexity AI вже інтегрувала функцію покупок в інтерфейс свого чат-бота, а краса є третьою за популярністю категорією пошуку, сказав речник.
Зі впровадженням функцій для покупок споживачі можуть почати бачити рекомендації щодо товарів, не знаючи, чому бот вибирає саме ці продукти, каже Пфайффер з Forrester. Наприклад, бот може запозичити ідеї у досвідченого інфлюенсера з візажом на YouTube або у злостивого треду на Reddit. Він може вигадати підроблений продукт або зробити неправдиві заяви про справжній, сказала вона. Його навчальні дані настільки великі та непрозорі, що бот стає вразливим до упередженості та помилок.
Але ті ж навчальні дані також можуть дати чат-ботам перевагу як помічникам у покупках та косметиці порівняно з традиційними пошуковими системами, сказав речник Perplexity Джессі Дваєр. Замість того, щоб переглядати десятки тем Reddit або відео на YouTube у пошуках ідеального засобу проти старіння, покупець міг би пояснити боту, що вона втомилася від темних кіл під очима і хоче щось, що допоможе. В ідеалі, боту було б зрозуміло, що вона має на увазі, і це заощадило б їй час на покупки, сказав Дваєр.
Одне відео в TikTok, де бот просить ChatGPT порекомендувати сяючий макіяж, зібрало понад 220 000 переглядів і безліч позитивних коментарів. Один з коментаторів сказав, що бот оцінював його привабливість за 10-бальною шкалою.
«Це підказало мені, що я середній зріст і можу піднятися з п’яти до семи за допомогою макіяжу та філерів», – сказали вони.
Хоча розробник ChatGPT OpenAI публічно не ділиться даними, на яких навчаються його системи штучного інтелекту, навчальні дані, ймовірно, включають онлайн-форуми, де люди оцінюють привабливість інших людей (переважно чоловіки оцінюють жінок), такі як subreddit r/RateMe або веб-сайт Hot or Not, сказав Алекс Ханна, директор з досліджень в Інституті розподіленого дослідження штучного інтелекту.
Хоча навчальні дані містять різноманітні ідеї, чат-боти схильні зосереджуватися на найпоширеніших напрямках, таких як переконання, що жінкам потрібно постійно покращувати свою зовнішність, сказала Ханна.
«Ми автоматизуємо чоловічий погляд», – додала Емілі Бендер, лінгвіст з обчислювальної техніки, яка спеціалізується на генеративному штучному інтелекті та є співавторкою разом з Ганною книги «Шахрайство зі штучним інтелектом».
Речниця OpenAI Лія Сі Аніз повідомила, що компанії є команди, які працюють над зменшенням упередженості в її моделях. Вона відмовилася повідомити, чи була технологія ChatGPT навчена на контенті, який ранжує привабливість. За її словами, функції покупок є новими та все ще вдосконалюються.
Однак, потенціал упередженості не завадив багатьом людям звертатися до ботів, а не до людей, для ведення делікатних розмов. Деякі користувачі вже покладаються на чат-ботів для спілкування , зокрема для обговорень у стилі психіатричної терапії. Іноді людям потрібна лише резонаторна дошка, яка не має власної частки людського безладу.
Користувачі, які попросили ChatGPT поділитися своїми враженнями про зовнішність, сказали, що задоволені результатами, навіть коли бот вказав на очевидні недоліки. Мікаела Лассіг, 39-річна жінка зі штату Вашингтон, попросила ChatGPT допомогти їй сяяти перед весіллям. У своєму запиті вона розповіла боту про свої цілі (бездоганна, молода шкіра), бюджет (2500 доларів США) та терміни.
«В ідеалі, ви надасте мені список процедур або послуг і скажете, коли їх виконувати, щоб до 16 липня у мене була найкраща шкіра та обличчя», – підказала вона бот.
У ньому було надано детальний список ознак старіння на її обличчі. Але зрештою вона схвалила рекомендації — там навіть правильно оцінили кількість одиниць ботоксу, які запропонує їй лікар. Лассіг сказала, що вона обережно сформулювала свою пропозицію, зосередившись на своїх особистих цілях щодо шкіри, а не на якомусь універсальному стандарті.
31-річна Гейлі Ендрюс хотіла почути невідфільтровану правду про свою зовнішність і «не шукала нічого приємного». Вона завжди цінувала те, як її старша сестра критикувала її без прикрас, тому звернулася до бота зі спеціальним проханням.
«Я сказала їй: «Будь ласка, говори як старша сестра, яка каже правду, бо любить тебе і хоче для тебе найкращого, навіть якщо це трохи жорстко», – сказала Ендрюс.
Це підказувало їй, що її брови рідшають, а колір обличчя стає плоским, без рум’янцю.
«Це було так влучно», – сказала вона.