Китайський стартап Sand AI випустив відкрито ліцензовану модель штучного інтелекту для створення відео, яка отримала похвалу від підприємців, таких як директор-засновник Microsoft Research Asia Кай-Фу Лі. Але Sand AI цензурує розміщену версію своєї моделі, щоб заблокувати зображення, які можуть викликати гнів китайських регуляторів у розміщеній версії моделі, згідно з тестуванням TechCrunch.
Раніше цього тижня Sand AI анонсувала Magi-1 , модель, яка генерує відео шляхом «авторегресійного» прогнозування послідовності кадрів. Компанія стверджує, що модель може створювати високоякісні, контрольовані кадри, які фіксують фізику точніше, ніж конкуруючі відкриті моделі.
Magi-1 надто непрактичний для роботи на більшості споживчого обладнання. Він має розмір 24 мільярди параметрів і вимагає від чотирьох до восьми графічних процесорів Nvidia H100 для роботи. (Параметри — це внутрішні змінні, які моделі використовують для прогнозування.) Для багатьох користувачів — у тому числі й для цього журналіста — платформа Sand AI — єдине місце, де вони можуть перевірити Magi-1.
Платформі потрібне «оперативне» зображення, щоб розпочати генерацію відео, але не всі підказки допустимі, TechCrunch швидко виявив. Sand AI блокує завантаження зображень Сі Цзіньпіна, площі Тяньаньмень і людини-танка, прапора Тайваню та знаків на підтримку звільнення Гонконгу. Схоже, що фільтрація відбувається на рівні зображення — перейменування файлів зображень не обійшло блокування.
Sand AI — не єдиний китайський стартап, який запобігає завантаженню політично чутливих зображень у свій інструмент створення відео. Hailuo AI, генеративна медіа-платформа MiniMax, що базується в Шанхаї, також блокує фотографії Сі Цзіньпіна. Але фільтрація Sand AI виявляється особливо агресивною; Hailuo дозволяє знімати площу Тяньаньмень.
Як пояснив Wired у січневій статті, моделі в Китаї зобов’язані дотримуватися суворого контролю інформації. Закон 2023 року забороняє моделям генерувати контент, який «шкодить єдності країни та соціальній гармонії» — що може бути витлумачено як контент, що суперечить історичним і політичним наративам уряду. Щоб відповідати вимогам, китайські стартапи часто цензурують свої моделі, використовуючи фільтри рівня підказок або налаштовуючи їх.
Цікаво, що хоча китайські моделі, як правило, блокують політичні виступи, вони часто мають менше фільтрів, ніж їхні американські колеги для порнографічного вмісту. 404 нещодавно повідомив , що в ряді відеогенераторів, випущених китайськими компаніями, відсутні базові огорожі, які не дозволяють людям створювати зображення оголених людей без згоди.
No Comment! Be the first one.