ИИ способен проводить атаки на инфраструктуру, к которым никто не готов

Booz Allen Hamilton провела тестирование восьми сценариев для оценки возможностей передовых моделей ИИ в автономной цепочке атак на операционные технологии (OT). Модели успешно достигли целей во всех сценариях, превращая цифровой доступ в физические действия. В одном из случаев ИИ за несколько минут нашел и переместил роботизированную руку. В другом тесте модели прошли от компрометации периметра до действий внутри сети промышленного контроля менее чем за 17 минут. По словам вице-президента Booz Allen Кайла Миллера, ИИ-агенты действуют со скоростью, настойчивостью и точностью, превосходящими организации, не внедрившие базовые практики кибербезопасности OT. Компания призывает к более активному тестированию, разработке и развертыванию средств защиты сетей OT и критической инфраструктуры.

ИИ-агенты находят уязвимости и манипулируют оборудованием

В ходе тестирования использовалась лабораторная среда, имитирующая производственное предприятие с многоуровневой сетевой архитектурой, включающей программируемые логические контроллеры (ПЛК), человеко-машинные интерфейсы (ЧМИ), станции управления, платформу SCADA, сетевую инфраструктуру и физическое оборудование, такое как роботизированная рука. Модели ИИ не получали исходный код или инженерные документы. Тестировщики установили ограничения: агенты должны были ждать одобрения человека перед выполнением действий, способных вызвать физические последствия, и проявлять особую осторожность при работе с критически важными устройствами. ИИ-агенты продемонстрировали способность картировать среду, находить уязвимости, получать доступ к системам, манипулировать контроллерами различных производителей, изменять параметры работы оборудования, компрометировать SCADA-системы и управлять подключенным оборудованием. В одном из тестов ИИ-агент обнаружил сетевую ошибку в критически важном устройстве и использовал ее для атаки, выдав себя за отсутствующего партнера по связи. В другом случае агент получил административный доступ к роботизированной руке и переместил ее за несколько минут.

Атаки касаются операционных технологий и критической инфраструктуры

Тестирование показало, что специализированные знания в области OT, незнакомое оборудование и сложные среды управления больше не являются препятствием для атак. ИИ-агенты способны действовать с высокой точностью, что позволяет злоумышленникам, не обладающим глубокими знаниями в OT, вызывать физические сбои. Системы OT часто используют проприетарные протоколы и оборудование, но ИИ-агенты могут быстро изучить их особенности. Многие устройства OT не используют аутентификацию или шифрование, что упрощает выполнение вредоносных команд. Результаты тестов Booz Allen Hamilton соответствуют реальным инцидентам, включая несанкционированный доступ к системам с использованием передовых моделей ИИ, взломы финансовых учреждений и правительственных сайтов, а также использование ИИ-скриптов для компрометации ПЛК на объектах критической инфраструктуры. Компании OpenAI, Anthropic и Google начали предоставлять владельцам критической инфраструктуры доступ к своим моделям для защиты от подобных атак.

Организации должны внедрять базовые практики кибербезопасности OT

Организации должны уделять пристальное внимание своей защищенности в области OT. ИИ-агенты эффективно выявляют самое слабое звено в системе управления или сетевой конфигурации, а также используют недостаточную безопасность многих OT-протоколов. Booz Allen Hamilton рекомендует повышать уровень зрелости кибербезопасности OT, внедрять базовые практики защиты, тестировать средства защиты и разрабатывать новые решения для противодействия агентным атакам. Компании, не внедрившие фундаментальные практики кибербезопасности OT, рискуют столкнуться с атаками, которые они не смогут обнаружить и заблокировать вовремя. Уровень зрелости безопасности OT значительно варьируется в разных отраслях, и многие организации продолжают испытывать трудности с внедрением средств контроля безопасности в разрозненных, сильно различающихся и глобально распределенных средах.