Anthropic створила розширення Claude для Chrome. Що може робити ШІ-агент
Компанія Anthropic створила розширення Claude для Chrome. Воно дозволяє ШІ напряму працювати в браузері. Claude може бачити сторінку, взаємодіяти з кнопками, заповнювати форми, відповідати на пошту чи планувати зустрічі. Інструмент відкривається у боковому вікні й зберігає контекст усіх дій користувача.
Поки що розширення працює у тестовому форматі. Про це йдеться на сайті Anthropic.
Участь у пілоті отримали 1000 користувачів тарифу Max, а решта може приєднатися до списку очікування.
У компанії зазначили, що один з головних викликів — безпека. Зокрема prompt injection атаки, коли у коді сайту чи документа можуть бути приховані інструкції для ШІ. Claude може виконати їх без відома користувача. Щоб цього уникнути, Anthropic додала кілька рівнів захисту. Користувач сам вирішує, до яких сайтів надати доступ. Перед ризикованими діями Claude завжди запитує підтвердження. За замовчуванням агент заблокований на фінансових сайтах, ресурсах для дорослих і піратських платформах.
Компанія також створила алгоритми для виявлення прихованих інструкцій у коді сторінки чи навіть у назві вкладки. У тестах без захисту рівень успішних атак був 23,6%. Після впровадження обмежень він знизився до 11,2%. Для спеціальних браузерних атак — до 0%.
Нагадаємо, що Anthropic заблокувала OpenAI доступ до Claude. Причиною стало те, що команда, яка стоїть за ChatGPT, ймовірно, використовувала Claude для оцінки та порівняння зі своїми власними розробками. Anthropic також ввела нові ліміти на використання Claude Code через надмірне навантаження. Раніше DOU повідомляв, що Anthropic додала до свого чатбота Claude AI можливість створювати застосунки всередині самого чату і бачити результат одразу в його інтерфейсі.
