Раздел Технологии выходит при поддержке
Команда DOGE, возглавляемая Илоном Маском, проанализировала ответы федеральных работников не собственной моделью Grok. Они «позаимствовали» Llama 2 от Meta.
Wired, ссылаясь на внутренние документы, пишет о реакции на скандальное письмо с выбором. Речь идет о том, когда федералам говорили: или остаетесь лояльными к новой политике, или увольняетесь. DOGE для этого локально протестировала и запустила Llama 2чтобы данные не попали в сеть. Модель сортировала ответы письма «Fork in the Road», которое по структуре напоминает тот, что получали сотрудники X (Twitter). Работникам соцсети предлагали выбрать: поддержать новые правила возвращения в офисы или уйти с работы.
СМИ утверждает, что именно Llama 2 анализировала ответы — чтобы оценить, кто остался, а кто уволился. Процесс был локальным, но этого не хватило, чтобы развеять беспокойство о конфиденциальности среди сотрудников. Да и раньше появлялись упоминания, как DOGE выискивала враждебно настроенных чиновников против Трампа благодаря ИИ.
Почему не Грок?
Анализ состоялся в январе, но тогда Grok еще не был доступен в открытом формате — только как собственная, закрытая система. Только недавно стало известно, что Microsoft начинает хостить Grok 3 от xAI на Azure. Поэтому в будущем DOGE, вероятно, будет использовать инструменты Маска чаще.
Однако именно это и беспокоит законодателей. В апреле более 40 конгрессменов обратились к директору Административно-бюджетного управления с требованием расследовать действия DOGE. В письме говорили о потенциальных конфликтах интересов Маска, рисках утечек и непрозрачном использовании моделей искусственного интеллекта.
Другие эксперименты DOGE с ИИ
Кроме Llama 2, DOGE экспериментировала с рядом других инструментов. В частности чат-ботом GSAi (на основе моделей Anthropic и Meta), AutoRIF (система, которая могла помогать с массовыми сокращениями), а также с Grok-2 в виде внутреннего помощника.
Creators — агентство международного PR для технологических и B2B-компаний PR для компаний и их лидеров Организация интервью в медиа, подкастах, выступлений на конференциях Европа, Азия, Америка Узнать больше
Отдельная часть возмущения законодателей касалась нового типа писем, которые работники начали получать уже после «Fork in the Road». Их просили еженедельно присылать до пяти пунктов о своих достижениях. Госслужащие волновались, что эти письма тоже попадают в ИИ-системы, и в них могут быть конфиденциальные данные. Хотя нет подтверждений, что Llama 2 использовали для анализа новых писем, некоторые сотрудники считают, что код могли просто повторно использовать.
Llama 2 — не новичок в скандалах
Прошлой осенью стало известно, что китайские военные использовали Llama 2 в качестве основы для своей AI-модели. Meta заявила, что это было «несанкционированное» использование устаревшей версии, после чего открыла доступ к своим моделям для программ нацбезопасности США. И именно из-за открытости Llama 2 правительство могло использовать ее без прямого согласия Meta.
И учитывая все вышеупомянутое, чиновники имеют неоднозначные мнения. Например, руководство Административно-бюджетного управления выглядит лояльным к DOGE. Но законодатели считают потенциальной катастрофой использование ИИ в анализе персонала без прозрачности и безопасности. Генеративные модели часто ошибаются и имеют предубеждения, а потому технология просто еще не готова для решений с высокими рисками.
«Я сделал достаточно»: Илон Маск отходит от политики
СпецпроектыЯк інвестувати в комерційні квадратні метри без ремонту, проблем з орендарями і ризиків: рішення від Standard OneЯк купити кондиціонер з установкою в Києві та не потрапити на приховані витрати. Покрокова інструкція
Источник: Ars Technica
Раздел Технологии выходит при поддержке
Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.
No Comment! Be the first one.