Соціальні мережі переповнені прикладами нового продукту Google AI Overview, який говорить дивні речі, починаючи від заклику користувачів наклеїти піцу клеєм і закінчуючи пропозицією їсти каміння . Безладне розгортання означає, що Google намагається вручну вимкнути AI Overviews для певних пошукових запитів, коли публікуються різні меми, тому користувачі бачать, що так багато з них зникають незабаром після публікації в соціальних мережах.
Це дивна ситуація, оскільки Google уже рік тестує AI Overviews — функцію, запущену в бета-версії в травні 2023 року під назвою Search Generative Experience, — і генеральний директор Сундар Пічаї сказав, що за цей час компанія обслужила понад мільярд запитів.
Але Пічаї також сказав, що Google знизив вартість доставки відповідей ШІ на 80 відсотків за той самий час, «за рахунок апаратного забезпечення, інженерних і технічних проривів». Здається, така оптимізація могла відбутися занадто рано, до того, як технологія була готова.
«Компанія, яка колись була відома тим, що була на передньому краї та поставляла високоякісні речі, тепер відома низькоякісними продуктами, які стають мемами», — сказав The Verge один із засновників штучного інтелекту, який побажав залишитися анонімним .
Google продовжує стверджувати, що його продукт AI Overview переважно видає користувачам «високоякісну інформацію». «Багато прикладів, які ми бачили, були незвичайними запитами, і ми також бачили приклади, які були підроблені або які ми не могли відтворити», — сказала представник Google Меганн Фарнсворт в електронному листі The Verge . Фарнсворт також підтвердив, що компанія «вживає оперативних заходів» для видалення AI Overviews за певними запитами, «де це доречно відповідно до нашої політики щодо вмісту, і використовує ці приклади для розробки ширших удосконалень наших систем, деякі з яких уже почали розгортатися».
Гері Маркус, експерт зі штучного інтелекту та почесний професор нейронауки в Нью-Йоркському університеті, сказав The Verge, що багато компаній зі штучного інтелекту «продають мрії» про те, що ця технологія перейде з 80% правильності до 100%. За словами Маркуса, досягти початкових 80 відсотків відносно просто, оскільки це передбачає апроксимацію великої кількості людських даних, але остаточні 20 відсотків надзвичайно складні. Фактично, Маркус вважає, що останні 20 відсотків можуть бути найважчими з усіх.
«Насправді вам потрібно трохи поміркувати, щоб вирішити: чи це правдоподібно? Це джерело законне? Ви повинні робити те, що може робити людина, перевіряюча факти, для чого може знадобитися загальний штучний інтелект», — сказав Маркус. І Маркус, і керівник відділу штучного інтелекту Meta Янн ЛеКун погоджуються , що великі мовні моделі, які працюють у сучасних системах штучного інтелекту, таких як Gemini від Google і GPT-4 від OpenAI, не будуть створювати AGI.
Подивіться, це важка ситуація для Google. Bing вийшов на ринок штучного інтелекту ще до того, як Google зробив це з відомою цитатою Сатья Наделли « ми змусили їх танцювати », OpenAI, як повідомляється, працює над власною пошуковою системою, нова пошукова система штучного інтелекту вже варта того 1 мільярд доларів , і молоде покоління користувачів, які просто хочуть отримати найкращий досвід, переходить на TikTok . Компанія явно відчуває тиск у конкуренції, і саме тиск створює безладні випуски штучного інтелекту. Маркус зазначає, що у 2022 році Meta випустила систему штучного інтелекту під назвою Galactica, яку довелося зняти незабаром після запуску, оскільки, серед іншого, вона наказувала людям їсти скло . Звучить знайомо.
Google має грандіозні плани щодо AI Overviews — ця функція, яка існує сьогодні, є лише крихітним шматочком того, що компанія анонсувала минулого тижня. Багатоетапне обґрунтування складних запитів, можливість генерувати організовану за допомогою ШІ сторінку результатів, пошук відео в Google Lens — тут багато амбіцій. Але на даний момент репутація компанії залежить лише від того, як правильно вивчити основи, і це виглядає не дуже добре.
«[Ці моделі] конституційно нездатні перевіряти власну роботу на осудність, і це те, що кусає галузь за спину», — сказав Маркус.