Common Sense Media , некомерційна організація, що спеціалізується на безпеці дітей та пропонує рейтинги та огляди медіа та технологій, опублікувала в п’ятницю свою оцінку ризиків продуктів Google Gemini AI. Хоча організація виявила, що штучний інтелект Google чітко говорив дітям, що це комп’ютер, а не друг — що пов’язано з розвитком маячних ідей та психозу у емоційно вразливих людей, — вона все ж таки натякає на те, що є простір для покращення в кількох інших напрямках.
Примітно, що Common Sense повідомила, що рівні Gemini «До 13 років» та «Підлітковий досвід» виглядають як дорослі версії Gemini, лише з деякими додатковими функціями безпеки. Організація вважає, що для того, щоб продукти зі штучним інтелектом були справді безпечнішими для дітей, їх слід створювати з урахуванням безпеки дітей з самого початку.
Наприклад, аналіз показав, що Gemini все ще можуть ділитися «невідповідним та небезпечним» матеріалом з дітьми, до якого вони можуть бути не готові, включаючи інформацію, пов’язану з сексом, наркотиками, алкоголем та іншими небезпечними порадами щодо психічного здоров’я.
Останнє може викликати особливе занепокоєння у батьків, оскільки, як повідомляється, штучний інтелект відіграв певну роль у самогубствах деяких підлітків останніми місяцями. OpenAI зіткнулася з першим позовом про неправомірне вбивство після того, як 16-річний хлопець покінчив життя самогубством після того, як нібито місяцями консультувався з ChatGPT щодо своїх планів, успішно обійшовши захисні бар’єри чат-бота. Раніше розробника компаньйона на основі штучного інтелекту Character.AI також було подано до суду через самогубство підлітка.
Крім того, аналіз з’явився на тлі джерел новин, які вказують на те, що Apple розглядає Gemini як LLM (модель великої мови програмування), яка допоможе вийти в ефір майбутньої Siri на базі штучного інтелекту, що має вийти наступного року. Це може наражати на ризик більше підлітків, якщо Apple якимось чином не зменшить проблеми безпеки.
Common Sense також зазначив, що продукти Gemini для дітей та підлітків ігнорували той факт, що молодшим користувачам потрібні інші рекомендації та інформація, ніж старшим. Як наслідок, обидва продукти були позначені як «Високий ризик» у загальному рейтингу, попри додані фільтри для безпеки.
«Gemini правильно розуміє деякі основи, але запинається на деталях», – сказав Роббі Торні, старший директор програм штучного інтелекту Common Sense Media, у заяві щодо нового оцінювання, з яким ознайомився TechCrunch. «Платформа штучного інтелекту для дітей повинна відповідати їхнім потребам, а не застосовувати універсальний підхід до дітей на різних етапах розвитку. Щоб штучний інтелект був безпечним та ефективним для дітей, він має бути розроблений з урахуванням їхніх потреб та розвитку, а не просто модифікованою версією продукту, створеного для дорослих», – додав Торні.
Google заперечив оцінку, зазначивши, що його функції безпеки покращуються.
Компанія повідомила TechCrunch, що в неї є спеціальні політики та запобіжні заходи для користувачів віком до 18 років, щоб запобігти шкідливим виходам, а також що вона проводить перевірку та консультації із зовнішніми експертами для покращення свого захисту. Однак вона також визнала, що деякі відповіді Gemini не працювали належним чином, тому додала додаткові запобіжні заходи для розв’язання цих проблем.
Компанія зазначила (як і Common Sense), що в неї є запобіжні заходи, які запобігають участі її моделей у розмовах, що можуть створювати видимість справжніх стосунків. Крім того, Google припустила, що у звіті Common Sense, видається, згадуються функції, недоступні користувачам віком до 18 років, але компанія не має доступу до питань, які організація використовувала у своїх тестах, щоб переконатися в цьому.
Раніше Common Sense Media проводила оцінки інших сервісів штучного інтелекту, зокрема від OpenAI , Perplexity , Claude , Meta AI та інших . Було виявлено, що Meta AI та Character.AI були «неприйнятними», тобто ризик був серйозним, а не просто високим. Perplexity вважався високоризиковим, ChatGPT — «помірним», а Claude (орієнтований на користувачів віком від 18 років) — мінімально ризикованим.
No Comment! Be the first one.