Дослідники штучного інтелекту та соціальних мереж провели експеримент, щоб перевірити, чи можливо запобігти формуванню інформаційних бульбашок у соцмережах. Для цього вони створили платформу, де всі користувачі були чат-ботами на основі GPT-4o від OpenAI. Результат виявився тривожним: боти почали активно обговорювати екстремістські погляди.
Про це повідомляє Futurism з посиланням на Ars Technica.
Експеримент організували вчені з Амстердамського університету. Вони перевірили шість стратегій втручання, які мали б зменшити поляризацію: хронологічну стрічку новин, підсилення різних поглядів, приховування статистики акаунтів і видалення біо. Жодна з цих методик не спрацювала належним чином. Деякі навіть погіршили ситуацію: наприклад, хронологічна стрічка висувала на перше місце екстремальний контент.
“Соцмережі, навіть із втручанням, приречені стати розсадником екстремістських поглядів і токсичних обговорень”, — заявив Петтер Торнберг, дослідник ШІ та соцмереж. За його словами, токсичний контент формує мережеву структуру, яка підсилює нерівність уваги: мала кількість публікацій отримує максимальну видимість.
Торнберг додає, що у світі генеративного ШІ ситуація лише погіршиться: платформи монетизують увагу, а потужні моделі ШІ створюють контент, який максимально поляризує і вводить в оману користувачів. З такими тенденціями традиційні моделі соціальних мереж навряд чи виживуть.
