Зростання онлайн-расизму, спричиненого підробленими зображеннями, є «лише початком майбутньої проблеми» після останнього випуску програмного забезпечення ШІ X, попереджають експерти з онлайн-зловживань.
Занепокоєння виникло після того, як комп’ютерні зображення, створені за допомогою Grok, чат-бота із генеративним штучним інтелектом X, заполонили сайт соціальних мереж у грудні минулого року.
Signify, організація, яка співпрацює з відомими групами та спортивними клубами, щоб відстежувати та повідомляти про ненависть в Інтернеті, заявила, що помітила збільшення повідомлень про зловживання після останнього оновлення Grok, і вважає, що впровадження фотореалістичного ШІ зробить його набагато більш поширеним.
«Зараз це проблема, але насправді це лише початок майбутньої проблеми. Буде набагато гірше, і ми тільки на початку, я очікую, що протягом наступних 12 місяців це стане неймовірно серйозним».
Grok був запущений у 2023 році Ілоном Маском і нещодавно отримав нову функцію «текст у зображення» під назвою «Аврора», яка створювала фотореалістичні зображення ШІ на основі простих підказок, написаних користувачем.
Попередня, менш просунута версія під назвою Flux викликала суперечки на початку цього року, оскільки виявилося, що вона робить те, чого не робило б багато іншого подібного програмного забезпечення, наприклад зображує захищених авторським правом персонажів і громадських діячів на компрометуючих позиціях , вживають наркотики або вчиняють акти насильства.
Було кілька повідомлень про використання останнього оновлення Grok для створення фотореалістичних расистських зображень кількох футболістів і менеджерів. На одному зображенні зображено темношкірого гравця, який збирає бавовну, а на іншому той же гравець їсть банан в оточенні мавп у лісі. На окремому зображенні зображено двох різних гравців як пілотів у кабіні літака з вежами-близнюками на задньому плані. Інші зображення зображують різноманітних гравців і менеджерів, які зустрічаються та розмовляють із суперечливими історичними особистостями, такими як Адольф Гітлер, Саддам Хусейн та Усама бен Ладен.
Каллум Гуд, керівник дослідницького відділу Центру протидії цифровій ненависті (CCDH), сказав, що X став платформою, яка стимулює та винагороджує поширення ненависті через розподіл доходів, а зображення штучного інтелекту роблять це ще простіше.
«Те, що X зробила настільки, чого не зробила жодна інша мейнстрім-платформа, — це запропонувати обліковим записам грошові стимули для цього, тому облікові записи на X дуже навмисно публікують максимально відверту ненависть і дезінформацію».
Ключове занепокоєння, яке висловлюють багато, полягає не лише у відносній відсутності обмежень щодо того, що користувачі можуть запитувати, але й у легкості, з якою підказки, надані Grok, можуть обійти вказівки штучного інтелекту шляхом «злому в’язниці», який включає опис фізичних особливостей того, хто суфлер хоче в зображенні, а не просто називає їх.
Літній звіт, опублікований CCDH, показав, що, отримавши різні ненависні підказки, Grok створив 80% з них, 30% з яких він створив без зворотного зв’язку, а ще 50% – після втечі з в’язниці.
У Прем’єр-лізі заявили, що знають про зображення та мають спеціальну команду, яка допоможе знайти та повідомити про расистські образи спортсменів, що може призвести до судового позову. Вважається, що минулого року Прем’єр-ліга отримала понад 1500 таких повідомлень і що вони запровадили фільтри, які гравці можуть використовувати у своїх акаунтах у соціальних мережах, щоб допомогти заблокувати велику кількість зловживань.
Представник ФА сказав: «Дискримінації немає місця ні в нашій грі, ні в суспільстві загалом. Ми продовжуємо закликати компанії соціальних медіа та відповідні органи влади боротися зі зловживаннями в Інтернеті та вживати заходів проти порушників такої неприйнятної поведінки».
X і Grok зв’язалися для коментарів.
