Скільки каменів на день ви повинні їсти? Малюки досить швидко розуміють, що відповідь нульова, можливо, з досвіду, можливо, після того, як їх лають батьки. Але запитайте у найбільшої пошукової системи світу, і ви можете отримати іншу відповідь.
«Згідно з геологами Каліфорнійського університету в Берклі, ви повинні з’їдати принаймні один маленький камінь на день», — впевнено відповів Google деяким користувачам минулого тижня на це запитання.
«Вони кажуть, що каміння є життєво важливим джерелом вітамінів і мінералів, які важливі для здоров’я травлення».
Цей випадок не був поодиноким. Минулого тижня Google також повідомив користувачам пошукової системи, що Барак Обама був першим мусульманським президентом Америки. Коли його попросили назвати продукти, що закінчуються на «гм», він відповів: «Яблуко, банан, полуниця, помідор і кокос».
Google не був зламаний, але справжнє пояснення було потенційно більш тривожним. Інтернет-гігант запустив нову функцію відповідей за допомогою штучного інтелекту (AI), яка, як він сподівається, стане майбутнім його пошукової системи.
Google нещодавно оголосив, що почне додавати «Огляди штучного інтелекту» на початку мільярдів пошукових запитів, які виконуються щодня. Хоча колись компанія зв’язувалася з набором веб-сайтів, які могли б відповісти на запит, натомість вона використовуватиме штучний інтелект для узагальнення авторитетних джерел, надаючи просту відповідь.
Ця функція була широко представлена користувачам у США та має бути запущена в усьому світі до кінця року. Але він почався погано. Минулого тижня користувачі поділилися прикладами неоднозначних відповідей, зокрема нанесли клей на піцу, щоб сир прилип до її основи.
Google наполягав, що випадки не були типовими для того, як функціонував інструмент. «Переважна більшість оглядів штучного інтелекту надає високоякісну інформацію з посиланнями для глибшого пошуку в Інтернеті», — сказав речник. «Багато прикладів, які ми бачили, були незвичайними запитами, і ми також бачили приклади, які були підроблені або які ми не могли відтворити».
Інженери провели останні дні, вручну змінюючи запити, які стали вірусними в Інтернеті. Компанія заявила, що протягом останніх місяців ретельно перевіряла цю функцію та спиралася на десятиліття досвіду створення найпопулярнішої пошукової системи у світі.
Але занепокоєння викликала не кількість незручних запитів, а їх природа. З моменту випуску ChatGPT понад 18 місяців тому стало широко зрозуміло, що системи штучного інтелекту «галюцинують» , вигадуючи факти таким чином, щоб виявляти їх нерозуміння. Огляд штучного інтелекту від Google не стільки галюцинував, скільки використовував джерела, які б не підтримала жодна людина.
Порада їсти каміння, наприклад, надійшла від сайту сатиричних новин The Onion. Рекомендація клеїти піцу була заснована на жарті з соціальної мережі Reddit 11 років тому. Його наполягання на тому, що Барак Обама був мусульманином, ґрунтувалося на неправильному тлумаченні наукової книги про релігію в Америці.
В одному випадку – коли Google стверджував, що жодної африканської країни не починається з літери K – його відповідь, здавалося, базувалася на веб-дискусії ChatGPT, яка поставила те саме запитання неправильно. Іншими словами, ШІ тепер використовує інші вигадки ШІ як Євангеліє.
Той факт, що Google, який має 25-річний досвід спрямування людей на найкращі сайти, нездатний відрізнити авторитетні джерела від жартів, може підірвати довіру до відповідей компанії.
У Google були помилки AI раніше. На початку цього року компанія була змушена призупинити можливість свого чат-бота Gemini малювати зображення людей після того, як система створювала історично неточні зображення чорношкірих нацистів та індіанських вікінгів.
Виконавчий директор Сундар Пічаї вибачився після того, як бот також зайняв низку дивних позицій, таких як відмова засуджувати педофілію та прирівнювання Ілона Маска до Гітлера. Корпорація Майкрософт також видала неточні результати за допомогою штучного інтелекту у своїй пошуковій системі Bing, яка працює на основі технології ChatGPT.
Але Google має інший масштаб.
За даними Statcounter, частка компанії на ринку пошукових систем становить понад 90%. Google є найпопулярнішим веб-сайтом у світі – за замовчуванням на iPhone та браузері Chrome. Його материнська компанія, Alphabet, минулого року отримала 175 мільярдів доларів США (137 мільярдів фунтів стерлінгів), що зробило його найбільшим рекламним щитом у світі. Цей масштаб змусив Google знизити витрати на сервери доставки відповідей штучного інтелекту на 80%, що, на думку критиків, могло знизити якість відповідей.
На відміну від інших проблем зі штучним інтелектом , Google не відступив, можливо, тому, що знає, що ніколи не може гарантувати точність. Він також перебуває під тиском, щоб рухатися вперед, побоюючись, що конкуренти штучного інтелекту, такі як ChatGPT, можуть з’їсти його обід, якщо він не запровадить штучний інтелект у свої послуги.
«Штучний інтелект ставить під загрозу основну пропозицію пошуку, оскільки він з усякого погляду ефективніший, ніж процес пошуку, але наразі менш точний для перевірки», — каже Клер Голубовскій з Enders Analysis. «Google з усіх сил намагається знайти правильний баланс, перш ніж конкурент позбавить його надзвичайно цінного пошукового продукту».
Але зміна роботи пошукової системи Google також призвела до побоювань щодо майбутнього Інтернету.
Протягом багатьох років компанія мала вільний, неписаний договір з веб-видавцями, такими як сайти новин, форуми та блоги: вона видобувала в них інформацію, а натомість пошукова система надсилала б мільйони користувачів. Штучний інтелект, який безпосередньо відповідає на запитання людей, викликав побоювання, що кліки від Google різко впадуть, загрожуючи бізнес-моделям, які підтримують веб-сайти.
«Це руйнує природний симбіоз Інтернету», — сказав Джеймс Роузвелл із «Руху за відкриту мережу», агітаційної групи маркетингової галузі. «Якщо видавці не можуть охопити аудиторію, вони не створюватимуть контент – це так просто.
«Google використовує свою монопольну владу, щоб спробувати замкнути відкритий Інтернет, але при цьому вони загрожують самій моделі, на якій побудований Інтернет».
Google заявив, що «залишатиметься зосередженим на надсиланні цінного трафіку видавцям і творцям», і що результати штучного інтелекту заохочують користувачів «копати глибше», переходячи за посиланнями.
Компанія зацікавлена в тому, щоб бути правою: якщо Google припинить подавати залежні від неї веб-сайти, вона може в кінцевому підсумку покладатися на все більш низькоякісні дані – і рекомендуватиме діяти гірше, ніж їсти каміння.