Tenable проверяет ИИ-агентов для SOC с помощью OpenAI GPT

Три этапа проверки ИИ-агентов для CyberAgents Exchange

Tenable внедрила трехэтапный процесс проверки для ИИ-агентов, размещаемых на платформе CyberAgents Exchange. Процесс включает автоматизированное тестирование, оценку с использованием передовых моделей OpenAI и ручную верификацию исследователями безопасности Tenable. Цель — обеспечить безопасность и надежность ИИ-инструментов, используемых в рабочих процессах Security Operations Center (SOC). Три инструмента уже прошли проверку и получили статус "vetted".

Автоматизированная проверка и оценка с помощью ИИ-моделей

Первый этап автоматизированной проверки использует Tenable One AI Exposure. Этот инструмент анализирует инструкции агента, разрешенные ему инструменты и доступные данные. Он выявляет попытки инъекций команд (prompt injection), раскрытие секретов, персональных данных (PII) и несанкционированный доступ к конфиденциальной информации. На втором этапе задействуются модели OpenAI GPT Cyber. Они оценивают полный вектор атаки агента, анализируя, как злоумышленник может использовать его возможности, включая взаимодействие с моделями, управление доступом к инструментам и цепочки действий. Этот этап помогает обнаружить потенциальные угрозы, которые не выявляются статическими сканерами. Модели оценивают 15 классов уязвимостей на трех уровнях: модели, приложения и инфраструктуры.

Экспертная верификация и проверка в реальных условиях

Заключительный этап включает ручную проверку исследовательской командой Tenable. Эксперты верифицируют результаты автоматизированного и ИИ-тестирования. Они выполняют компонент в изолированной среде для подтверждения его поведения в реальном времени. По итогам проверки формируется документированный отчет, включающий происхождение кода, модель угроз, результаты анализа исходного кода и верификации выполнения. Этот отчет служит основанием для присвоения статуса "vetted", который подтверждает надежность агента для использования в производственных средах. Агенты с таким статусом помогают ускорить обнаружение угроз, сортировку инцидентов и анализ защищенности облачной инфраструктуры. Например, SOC Hunter сократил время поиска угроз на 75% для команды Tenable.

Источник: Tenable