В Італії оштрафували на €5 мільйонів розробника чат-бота зі штучним інтелектом

Агентство із захисту даних Італії Garante наклав штраф у розмірі 5 млн євро на компанію Replika, яка розробила чат-бот зі штучним інтелектом.

Про це повідомляє Reuters.

Компанію оштрафували за порушення правил захисту персональних даних користувачів.

Запущений у 2017 році стартап із Сан-Франциско (США) Replika пропонує користувачам персоналізовані ШІ-аватари, які можуть спілкуватися з ними. На думку компанії, такий «віртуальний друг» здатен покращити емоційний стан користувачів.

У лютому 2023 року Garante наказав Replika призупинити надання послуг у країні, посилаючись на особливі ризики для дітей.

Під час розслідування було встановлено, що Replika не має правової основи для обробки даних користувачів і не має системи перевірки віку, щоб обмежити доступ дітей до сервісу.

На компанію-розробника Luke Inc. було накладено штраф.

Італійський регулятор також оголосив про проведення окремого розслідування, щоб оцінити, чи відповідає генеративна ШІ-система Replika правилам конфіденційності Європейського Союзу, особливо щодо навчання її мовної моделі.

Garante є одним із найбільш проактивних регуляторів Європейського Союзу в оцінці відповідності ШІ-платформ правилам блоку щодо конфіденційності даних.

internetua.com