Модель искусственного интеллекта можно украсть без всякого взлома, — ученые

Раздел Технологии выходит при поддержке

Необходимо много средств и времени, чтобы обучить модель искусственного интеллекта. И относительно мало усилий, чтобы украсть её. Для этого не нужно воровство или утечка данных.

Украсть ИИ можно с помощью электромагнитного «подписи» модели. Исследователи из Университета Северной Каролины описали такую технику в статье. Им понадобился электромагнитный зонд, несколько заранее подготовленных моделей искусственного интеллекта с открытым кодом и блок обработки тензоров Google (Google Edge Tensor Processing Unit, TPU). Метод заключается в анализе электромагнитного излучения во время работы TPU.

Чтобы расшифровать параметры модели, учёным пришлось сравнить данные электромагнитного поля с данными работы других моделей искусственного интеллекта, которые работали на том же чипе. Исследователям удалось определить архитектуру и конкретные характеристики, известные как детали слоя. Это позволило им сделать копию модели искусственного интеллекта с точностью 99,91%. Для этого нужен физический доступ к чипу — для зондирования, а также для запуска других моделей. Ученые сотрудничали напрямую с Google, чтобы помочь компании определить, насколько её чипы подвержены атакам.

Атаки, направленные на боковые каналы информации, связанные с работой устройств, не новы. Но эта конкретная техника извлечения параметров архитектуры всей модели важна, поскольку аппаратное обеспечение искусственного интеллекта создаёт вывод в открытом тексте. Модели, развёрнутые на физически незащищённом сервере, уязвимы для неё.

Исследователи также предполагают возможность украсть модель со смартфонов и других устройств. Но их компактный дизайн усложняет мониторинг электромагнитного поля.

Искусственный интеллект будет потреблять на 95% меньше энергии благодаря более простым вычислениям

СпецпроектыЯк штучний інтелект змінює робочі рутини: огляд ноутбуків MSI для творчих і бізнес-завданьЯк українцям вигідно витрачати криптовалюту у 2025 році: три варіанти

Источник: Gizmodo

Раздел Технологии выходит при поддержке

Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.

itc.ua