AI-шлюзы в 2026: защита LiteLLM, Kong, TrueFoundry и других

Обновления безопасности для AI-шлюзов вышли в 2026 году

В 2026 году появились новые механизмы защиты для AI-шлюзов. Эти механизмы, известные как guardrails, представляют собой проверки безопасности и политик, применяемые к каждому запросу к модели и каждому ответу. Они включают обнаружение инъекций промптов и джейлбрейков, маскирование конфиденциальных данных, соблюдение политики контента и, для агентов, правил вызовов инструментов и MCP (Managed Cloud Platform). Шлюз выступает точкой принудительного исполнения, а поставщик guardrail — системой обнаружения.

LiteLLM, Kong и TrueFoundry интегрируют сторонние guardrails

LiteLLM поддерживает guardrails через конфигурационный блок. Он включает встроенные проверки, такие как обнаружение персональных данных (PII) и защищенной медицинской информации (PHI) с помощью Microsoft Presidio, обнаружение инъекций промптов в памяти, обнаружение и маскирование секретов, а также проверку разрешений на использование инструментов. Кроме того, LiteLLM поддерживает 45 сторонних поставщиков guardrail, включая Pillar Security, Lakera и Palo Alto Networks Prisma AIRS. Интеграция с Pillar Security позволяет маскировать PII и секреты перед их отправкой модели, а также сканировать вызовы инструментов и серверов MCP.

Kong AI Gateway использует плагины для реализации guardrails. Четыре встроенных плагина обеспечивают базовую защиту, а также существуют плагины для сторонних поставщиков, таких как AWS Bedrock Guardrails и Azure AI Content Safety. Для других решений предусмотрен плагин AI Custom Guardrail. Плагин Pillar Security для Kong 3.9+ сканирует промпты, ответы и определения инструментов. Он предлагает буферизованный вариант для полного сканирования ответа перед отправкой пользователю и потоковый вариант для обработки в реальном времени.

TrueFoundry AI Gateway выполняет guardrails на четырех этапах: ввод LLM, вывод LLM, предварительная и последующая обработка инструментов MCP. Встроенные guardrails включают модерацию контента и обнаружение секретов. TrueFoundry также поддерживает более 20 внешних поставщиков, среди которых Pillar Security и CrowdStrike. Интеграция с Pillar Security в TrueFoundry позволяет регистрировать пользовательские guardrails для этапов ввода и вывода, а также для обработки инструментов.

Защита AI-приложений требует комплексного подхода

AI-шлюз является правильной точкой для принудительного исполнения политик безопасности, но не всегда для обнаружения угроз. Встроенные проверки шлюзов часто ограничиваются списками ключевых слов и регулярными выражениями. Более сложные атаки, такие как косвенные инъекции промптов и многоходовые джейлбрейки, требуют специализированных систем обнаружения. Кроме того, шлюзы могут упускать из виду угрозы, связанные с потоковой передачей данных, выполнением инструментов вне шлюза или использованием агентов на локальных машинах разработчиков. Guardrails, которые сканируют определения инструментов, вызовы и результаты, а также могут применять списки разрешенных серверов MCP, необходимы для защиты от атак через инструменты.

Рынок решений для защиты AI быстро консолидируется. Компании, такие как Check Point, F5 и CrowdStrike, приобрели стартапы в области безопасности AI в 2025 году. В мае 2026 года Palo Alto Networks объявила о приобретении Portkey. Это указывает на растущую важность комплексных решений безопасности для AI-приложений. Для предприятий, использующих несколько AI-шлюзов, поставщик guardrail, работающий со всеми ними, обеспечивает единую политику и единый журнал аудита, что упрощает управление безопасностью.

Источник: Pillar Security