Anthropic оголосила про запуск дослідницької попередньої версії браузерного агента зі штучним інтелектом, що працює на основі моделей Claude AI . Агент Claude for Chrome буде доступний для групи з 1000 передплатників тарифного плану Anthropic Max.
Додавши розширення до Chrome, вибрані користувачі тепер можуть спілкуватися з Клодом у боковому вікні, яке зберігає контекст усього, що відбувається в їхньому браузері. Користувачі також можуть надати агенту Клода дозвіл виконувати дії в їхньому браузері та виконувати деякі завдання від їхнього імені.
Браузер швидко стає наступним полем битви для лабораторій штучного інтелекту, які прагнуть використовувати інтеграцію браузерів для забезпечення більш безперебійного зв’язку між системами штучного інтелекту та їхніми користувачами. Perplexity нещодавно запустила власний браузер Comet , який має агента штучного інтелекту, що може розвантажувати користувачів. OpenAI, як повідомляється, близька до запуску власного браузера на базі штучного інтелекту , який, за чутками, матиме схожі функції з Comet. Тим часом Google за останні місяці запустила інтеграцію Gemini з Chrome .
Перегони за розробку браузерів на базі штучного інтелекту є особливо актуальними, враховуючи неминучу антимонопольну справу Google, остаточне рішення в якій очікується з дня на день. Федеральний суддя у цій справі припустив, що може змусити Google продати свій браузер Chrome. Perplexity подала незапрошену пропозицію на суму 34,5 мільярда доларів за Chrome , а генеральний директор OpenAI Сем Альтман припустив, що його компанія також готова його купити .
У вівторковому дописі в блозі Anthropic попередив, що зростання кількості агентів штучного інтелекту з доступом до браузера створює нові ризики для безпеки. Минулого тижня команда безпеки Brave заявила, що виявила, що агент браузера Comet може бути вразливим до атак непрямого впровадження запитів , коли прихований код на веб-сайті може обманом змусити агента виконати шкідливі інструкції під час обробки сторінки.
(Керівник відділу комунікацій Perplexity Джессі Дваєр повідомив TechCrunch в електронному листі, що вразливість, про яку повідомив Brave, виправлена.)
Anthropic заявляє, що сподівається використати цей попередній огляд дослідження як шанс виявити та усунути нові ризики безпеки; проте компанія вже запровадила кілька захисних заходів проти атак із застосуванням швидкого введення вірусу. Компанія стверджує, що її втручання знизили рівень успішності атак із застосуванням швидкого введення вірусу з 23,6% до 11,2%.
Наприклад, Anthropic стверджує, що користувачі можуть обмежити доступ браузерного агента Claude до певних сайтів у налаштуваннях програми, і компанія за замовчуванням заблокувала Claude доступ до веб-сайтів, які пропонують фінансові послуги, контент для дорослих та піратський контент. Компанія також стверджує, що браузерний агент Claude запитуватиме дозвіл користувача, перш ніж «здійснювати дії з високим рівнем ризику, такі як публікація, купівля або обмін особистими даними».
Це не перша спроба Anthropic розробити моделі штучного інтелекту, які можуть керувати екраном вашого комп’ютера. У жовтні 2024 року компанія запустила агента штучного інтелекту, який міг керувати вашим ПК , проте тестування на той час показало, що модель була досить повільною та ненадійною.
Можливості агентних моделей штучного інтелекту з того часу значно покращилися. TechCrunch виявив, що сучасні агенти штучного інтелекту, що використовують браузери, такі як Comet та ChatGPT Agent , досить надійно розвантажують користувачів простими завданнями. Однак багато з цих агентних систем все ще стикаються з більш складними проблемами.
No Comment! Be the first one.