Microsoft представила Guardian Agents для контроля корпоративных AI-агентов

Guardian Agents предназначены для наблюдения за AI-агентами, которыми пользуется компания. Функция вошла в Project Perception, представленный ранее продукт Microsoft для задач безопасности. Поначалу его схема была сосредоточена на атаках извне: одна группа агентов имитировала атакующих, другая обнаруживала их действия и оценивала найденные уязвимости, третья занималась исправлениями. Теперь Microsoft добавляет к этой схеме наблюдение за агентами, уже работающими внутри организации.

Причина такого подхода не в предположении, что модель обязательно взломана. Руководитель направления безопасности Microsoft Хайете Галлот связывает риск с непредсказуемостью передовых моделей: их обучают выполнять задачи, а не разбираться в правилах и суждениях конкретной организации. При этом агентам могут выдать доступ к чувствительным данным и инструментам, способным совершать важные действия. Ошибка в этой ситуации затрагивает уже не только текст ответа.

Глава Microsoft Сатья Наделла предлагает отделять поставщика модели от системы, которая определяет и контролирует полномочия агента. Его довод: заверения разработчика модели в безопасности не снимают с компании ответственности за действия системы, которой она доверила свои данные и процессы. Guardian Agents отвечает на запрос наблюдать за такими действиями отдельно от самого агента, хотя при выборе контролирующего продукта компании всё равно придётся оценивать поставщика.

Microsoft расширила и возможности Defender. По заявлению компании, продукт теперь способен обнаруживать до 60 типов агентов, которые сотрудники приносят в рабочую среду, в том числе Claude Code, Codex и OpenClaw. Это помогает увидеть инструменты, используемые вне заранее составленного списка. Обнаружение, однако, лишь первый этап: агент, о котором известно службе безопасности, всё ещё может иметь слишком широкий доступ к данным или системам.

Для управления таким доступом Microsoft добавила ограничения на работу агентов с данными и системами и возможность менять разрешения в зависимости от задачи. Если решение агента выглядит рискованным, система может запросить подтверждение человека. Подход рассчитан на компании, где агент не просто помогает писать текст, а вызывает инструменты и выполняет действия от имени сотрудника: в таком сценарии важно проверять полномочие на конкретный шаг.