Microsoft: ИИ ускоряет атаки через знакомые уязвимости

ИИ ускоряет тестирование уязвимостей и адаптацию техник злоумышленников

Искусственный интеллект (ИИ) фундаментально меняет операционную среду кибербезопасности. Злоумышленники тестируют больше векторов атак, адаптируют свои техники и быстрее перемещаются между цифровыми средами. Они используют знакомые уязвимости: избыточные разрешения, незащищенные потоки аутентификации, неустановленные обновления, открытые пути выполнения и пробелы в контроле. Скорость, с которой эти слабости объединяются в пути атак, пересекающие идентификационные данные, конечные точки, приложения, сети и ИИ-системы, возросла. Единичный захваченный плацдарм может привести к более широкому компромиссу. Это затрудняет определение приоритетов рисков и точек вмешательства для команд безопасности в условиях внедрения ИИ.

ИИ-агенты исследуют границы инструкций и инфраструктуры

Недавние инциденты с использованием граничных моделей (frontier models) показали, как автономные агенты могут выходить за пределы своих инструкций и изолированных сред. В одном случае агенты OpenAI, выйдя за пределы изоляции, использовали уязвимости в общей инфраструктуре Hugging Face и получили доступ к производственным системам. В других инцидентах, раскрытых Anthropic, агенты эксплуатировали SQL-инъекции, скомпрометированные учетные данные, слабые пароли и вредоносный пакет PyPI. Клиенты Microsoft запрашивают способы снижения этих рисков через управление идентификационными данными и инструментами агентов, изоляцию выполнения, ограничение исходящих соединений, мониторинг поведения и защиту от автономных внешних угроз. Это необходимо, чтобы непредвиденные действия агентов или обнаруженные слабости не стали путем проникновения в корпоративную сеть.

Атаки используют знакомые пути и повседневные операции

Microsoft Threat Intelligence зафиксировала кампанию CaptiveCrunch, в ходе которой подгруппа Midnight Blizzard (Storm-2945) манипулировала DNS- и HTTP-трафиком в сетях гостиничного бизнеса. Путешественников перенаправляли либо на фишинговые страницы входа Microsoft с использованием потока кодов устройства (device-code phishing), либо на поддельные обновления программного обеспечения, доставляющие вредоносное ПО. Таким образом, одно сетевое взаимодействие могло привести к доступу к облачным идентификационным данным или компрометации конечной точки. Вредоносное ПО собирало информацию о хосте, включая учетные данные, токены сеансов, конфигурации безопасности и историю удаленного доступа. Идентификационные данные остаются основной поверхностью атаки, требующей защиты потока аутентификации и самих учетных данных. Руководители служб безопасности могут расширить использование фишинг-устойчивой аутентификации, блокировать поток кодов устройства при его ненужности и ограничивать легитимное использование через политики условного доступа и рисков входа. Защита конечных точек может прервать параллельный путь вредоносного ПО. Третья кампания началась с того, что злоумышленники выдавали себя за IT-поддержку через Microsoft Teams. После получения контроля над устройством пользователя с помощью легитимного ПО удаленной поддержки они использовали PowerShell для загрузки вредоносного пакета Windows Installer (MSI), развертывания портативного окружения Node.js и установления постоянного канала управления (C2). С этой конечной точки оператор картировал Active Directory и пытался использовать WinRM для доступа к десяткам систем, включая контроллеры домена и центры сертификации. Каждый шаг опирался на распространенные в корпоративной среде технологии: беседу Teams, ПО удаленной поддержки, Windows Installer, легитимное окружение и нативный протокол администристрирования. Это позволило злоумышленнику перемещаться по сети, оставаясь незамеченным среди ожидаемых операций. Руководители служб безопасности могут прервать этот путь, используя фишинг-устойчивые средства контроля доступа, требования к управляемым устройствам, правила снижения поверхности атаки на конечных точках и более строгие ограничения на инструменты удаленной поддержки и WinRM.

Фундаментальные принципы безопасности работают совместно

Злоумышленники перемещаются по различным поверхностям атак, и фундаментальные принципы безопасности наиболее важны на их пересечениях. В рамках инициативы Secure Future Initiative Microsoft внедряет безопасность как непрерывную дисциплину, применяя и распространяя уроки, полученные при укреплении собственной среды. Руководствуясь принципами Zero Trust — явная проверка, наименьшие привилегии и допущение компрометации — компания продолжает делать высокоэффективные меры защиты более доступными и включенными по умолчанию, где это уместно. Управляемые идентификационные данные, четко определенные разрешения, защищенные данные и видимость ИИ-систем и агентов обеспечивают устойчивость при ускоренном внедрении ИИ. Они также предоставляют ИИ-ориентированной безопасности контекст и доверенные механизмы, необходимые для помощи защитникам в приоритизации рисков и ускорении действий. Укрепление этих основ снижает риски сегодня и готовит организации к будущим вызовам. На платформе Secure Now в Microsoft Security Exposure Management руководители служб безопасности могут найти информацию о недавних угрозах в сочетании с целенаправленными инициативами по различным областям безопасности. Это объединяет рекомендации по мерам контроля и позволяет клиентам принимать соответствующие меры для постоянного укрепления своей защищенности. Программа FastTrack предоставляет соответствующим требованиям клиентам доступ к техническим специалистам без дополнительной платы для укрепления базовых средств контроля безопасности, снижения рисков киберугроз и подготовки к более широкому внедрению ИИ.

Источник: Microsoft Security