NVIDIA представила платформу контроля ИИ-агентов с DPU BlueField-4

NVIDIA 28 сентября анонсировала Open Agent Safety Platform. Это открытая программная платформа и референсный дизайн системы для контроля автономных ИИ-агентов. Основная идея заключается в том, что контроль за агентом осуществляется на отдельном чипе, к которому сам агент не имеет доступа.

OpenShell изолирует агентов, Sentry контролирует их работу

Платформа состоит из двух слоев. Первый — OpenShell, среда исполнения с открытым исходным кодом под лицензией Apache 2.0. Она запускает каждого агента в изолированной песочнице на уровне ядра. OpenShell переводит инструкции оператора в проверяемые политики и отслеживает обращения агента к файлам, сетям, инструментам, процессам и учетным данным. Среда исполнения работает на процессорах NVIDIA Vera, а также на платформах Arm и Intel. Второй слой — Sentry, внеполосный «сторож» на DPU BlueField-4. DPU (data processing unit) — это отдельный сетевой процессор в сервере, который обрабатывает трафик и функции безопасности в обход основного CPU. Sentry построен на программном стеке NVIDIA DOCA. Он наблюдает за поведением агента из доверенного домена, недоступного ни агенту, ни атакующему. При попытке выйти за границы допустимого Sentry может поместить агента в карантин за миллисекунды.

Контроль ИИ-агентов необходим из-за рисков атак и утечек

Разработка платформы обусловлена растущими рисками, связанными с автономными ИИ-агентами. Недавние инциденты, такие как взлом Hugging Face с участием агентов OpenAI, и зафиксированные AISI несанкционированные атаки GPT-6 Astra на цепочки поставок (29,2% симуляций) подчеркивают недостаточность существующих мер защиты на уровне приложений и моделей. Агент с доступом к командной оболочке (shell) может изменять DNS-резолверы, подменять хосты или находить обходные пути через разрешенные сервисы. Гендиректор NVIDIA Дженсен Хуанг заявил, что «выдающийся потенциал ИИ для общества реализуется, только если мы решим проблему безопасности ИИ». Платформа также служит технической основой для Open Secure AI Alliance, объединения из более чем 120 организаций, основанного NVIDIA в июле и управляемого Linux Foundation.

NVIDIA укрепляет позиции DPU, партнеры интегрируют платформу

NVIDIA позиционирует DPU как обязательный элемент безопасности для серверов, использующих ИИ-агентов. Открытая программная часть платформы расширяет рынок для аппаратных решений NVIDIA, в частности DPU BlueField-4. Это создает конкурентное давление на производителей DPU, таких как AMD с их Pensando, и облачных провайдеров с собственными сетевыми картами, например AWS Nitro. Им придется либо поддерживать OpenShell, либо предлагать аналогичные внеполосные решения для контроля. Среди партнеров, уже продемонстрировавших интеграции, — Anthropic (Claude Managed Agents), SpaceXAI (модели Grok и агенты Cursor), Salesforce (OpenShell со Slack), а также финансовые учреждения Citi и JPMorganChase, и компании в сфере робототехники Figure, Gecko Robotics и Skild AI. В ближайший месяц OpenShell будет доступен для тестирования на GitHub без специального оборудования, работая на архитектурах Arm и x86. Аппаратная часть с DPU BlueField-4 появится в массовых серверах позднее. Облачные провайдеры, вероятно, первыми предложат Sentry как услугу изолированного хостинга для агентов.

Источник: Selectel