Microsoft представила Project Perception для защиты от рисков ИИ-агентов

Project Perception защищает от рисков ИИ-агентов

Microsoft представила Project Perception — систему для защиты от рисков, связанных с использованием ИИ-агентов. Решение помогает организациям управлять доступом и действиями таких агентов, обеспечивая безопасность данных и систем. Система работает на основе принципа «окружить недетерминированный интеллект детерминированными средствами контроля». Предполагается, что агент может ошибиться или быть скомпрометирован. Поэтому его необходимо постоянно наблюдать, минимизировать и адаптировать его полномочия перед каждым действием. Защита охватывает управление идентификацией, правами доступа, данными, конечными точками, сетью, облаком и средой выполнения.

Система непрерывно отслеживает активность агентов

Project Perception выполняет четыре основные задачи. Во-первых, система должна знать обо всех существующих агентах, их владельцах, назначении и текущей деятельности. Во-вторых, необходимо ограничивать доступ и действия каждого агента до их выполнения. В-третьих, требуется защищать данные, инструменты, среду выполнения и ресурсы, к которым агент получает доступ. В-четвертых, защита должна постоянно адаптироваться к изменениям в поведении, контексте и уровне риска агента. Эти задачи выполняются одновременно, а не последовательно. Изменение уровня риска влияет на политику доступа, которая, в свою очередь, определяет допустимые действия агента. Например, агент для утверждения расходов должен иметь возможность читать заявки и проверять соответствие политике, но не должен наследовать все права сотрудника, который его использует. Его идентификация, среда выполнения, пути доступа и полномочия должны быть четко определены. При обнаружении попытки выполнить действие вне установленных рамок система должна реагировать пропорционально: блокировать запись данных, сужать доступ к ресурсам или изолировать агента при высоком уровне риска.

Идентификация и контроль доступа для ИИ-агентов

Для обеспечения безопасности необходимо видеть всех агентов. Microsoft Security использует встроенные интеграции и датчики для обнаружения агентов, созданных через платформы Microsoft, партнерские решения или локально. Система расширяет поддержку до 35 типов локальных агентов, включая Claude Code, OpenAI Codex и GitHub Copilot. Все обнаруженные агенты добавляются в единый реестр для отслеживания владельца, активности и рисков. Каждому агенту присваивается отдельная идентификация, отличная от идентификации пользователя. Это позволяет системам безопасности и управления различать действия человека и действия агента, выполненные от его имени. Ограничение действий агента включает контроль среды выполнения с помощью песочниц, таких как Microsoft Execution Container (MXC). Они предоставляют контролируемый доступ к необходимым ресурсам и создают границу безопасности, которую агент не может обойти. Также контролируется пространство действий агента: сетевые и локальные ограничения, а также политики безопасности посредничают при доступе к инструментам и ресурсам. Важно понимать содержимое передаваемых данных, его конфиденциальность и происхождение. Принцип наименьших привилегий применяется к агентам так же, как и к людям. Агент должен начинать работу без каких-либо полномочий и получать только те, которые необходимы для выполнения конкретной задачи. Динамические разрешения позволяют настраивать права доступа в зависимости от задачи и времени, а для выполнения критически важных действий может потребоваться подтверждение человека.

Адаптивная защита и масштабирование с Guardian Agents

Даже при строгом контроле доступа риски могут возрастать. Например, если агент сталкивается с вредоносным контентом. Система должна реагировать на изменения поведения и риска в режиме реального времени. Динамический риск агента (Dynamic Agent Risk) объединяет сигналы из различных источников, оценивая конфигурацию агента, доступные ресурсы и соответствие его действий намерениям пользователя или организации. Результат — постоянно обновляемая оценка текущего риска, которая влияет на уровень допустимых действий. Динамический условный доступ (Dynamic Conditional Access) расширяет Microsoft Entra Conditional Access для агентов. Изменение уровня риска может инициировать скоординированные действия по нескольким точкам принуждения. Реакция может быть градуальной: от снижения разрешений до полной остановки выполнения. Для масштабирования защиты тысяч агентов Microsoft внедряет Guardian Agents. Эти агенты выполняют задачи по обеспечению безопасности в автоматическом режиме, адаптируясь к изменениям активности, рисков и политики. Они помогают анализировать причины изменения рисков, собирать доказательства, применять меры сдерживания и улучшать политику безопасности. Люди определяют цели и правила, а система выполняет рутинную работу, которую невозможно масштабировать вручную. По словам Террелла Кокса, Корпоративного вице-президента Microsoft, агенты будут приняты в масштабе только в том случае, если им можно будет доверять. Непрерывная видимость активности агентов, проактивная защита доступа и данных, а также адаптивная защита являются ключевыми факторами для уверенного использования агентов организациями.