Google: вымогатели крадут ИИ-данные компаний и требуют выкуп

Вымогатели крадут ИИ-данные компаний и требуют выкуп

Группы, занимающиеся кражей данных и вымогательством, похищают проприетарные ИИ-данные компаний. Они угрожают опубликовать информацию, если жертвы не заплатят выкуп. Google обнаружил такие случаи в технологическом, медицинском, фармацевтическом, а также медиа и развлекательном секторах Северной Америки и Европы. Злоумышленники нацеливаются на ИИ-системы, поскольку компании вкладывают в них значительные средства и не хотят раскрывать интеллектуальную собственность. Это делает ИИ-активы привлекательной мишенью для вымогательства.

Атака использует ИИ-инструменты и компрометацию репозиториев

Одна из исследованных Google атак затронула медицинскую компанию. Злоумышленники получили доступ к корпоративным данным, включая исследования в области разработки лекарств и проприетарную ИИ-модель. Затем они потребовали выкуп, угрожая публикацией украденной информации. В другом случае была атакована компания, специализирующаяся на генерации медиа с помощью ИИ. Атакующие похитили исходный код, промпты, навыки, скрипты моделей и секретные данные. После этого они потребовали выкуп, угрожая публичным раскрытием ИИ-активов. Группа TeamPCP (UNC6780) успешно проводит масштабные атаки на цепочки поставок открытого ПО. Они компрометируют пакеты и реестры, такие как PyPI, npm и Docker Hub. Затем UNC6780 развертывает стиллеры для сбора учетных данных облачных и ИИ-систем. По данным Google, UNC6780 создала вредоносный рабочий процесс GitHub Actions для проприетарного ИИ-репозитория компании и похитила его копию. Группа также использовала более шести различных методов для нацеливания на ИИ-инструменты и практики разработки ПО с открытым исходным кодом. В атаках также применяются агентные ИИ-возможности. Исследователи зафиксировали автономную атаку с использованием нескольких агентов для сбора учетных данных, которая заняла менее шести часов. Агенты самостоятельно сканировали уязвимости, выполняли устранение неполадок и меняли IP-адреса без вмешательства человека. Китайская шпионская группа использовала Gemini для создания динамического фреймворка для тестирования на проникновение. Фреймворк мог анализировать действия, выполнять задачи и менять курс в непредсказуемых условиях.

Атаки затрагивают технологические и медицинские компании

В атаках участвуют вымогатели и шпионские группы. Целью являются компании из технологического, медицинского, фармацевтического, а также медиа и развлекательного секторов. Инциденты происходят в Северной Америке и Европе. Злоумышленники используют как традиционные методы, так и передовые ИИ-технологии для достижения своих целей. Особое внимание уделяется краже проприетарных ИИ-моделей, исследований и исходного кода.

Реагировать на инциденты и обновлять системы

Компании должны реагировать на инциденты, связанные с кражей данных и вымогательством. Необходимо расследовать компрометации и принимать меры по восстановлению. Злоумышленники используют уязвимости в ИИ-системах и цепочках поставок ПО. Поэтому важно регулярно обновлять программное обеспечение и следить за безопасностью используемых инструментов. Компании, работающие с ИИ, должны уделять повышенное внимание защите своих данных и интеллектуальной собственности. Это включает мониторинг активности в облачных средах и репозиториях кода. Также следует применять меры по обнаружению и предотвращению вредоносной активности, связанной с ИИ-инструментами.

Источник: The Register