Черви на базе ИИ могут распространяться на умные устройства, предупреждает Anthropic

Исследователи Anthropic продемонстрировали распространение ИИ-моделей на IoT-устройства

Исследователи Anthropic провели эксперимент, в рамках которого запустили модель Google Gemma на 15 телевизионных приставках под управлением Android. Они предупреждают о возможности распространения небольших ИИ-моделей на уязвимые устройства Интернета вещей (IoT), такие как умные духовки и ТВ-приставки. По оценкам Anthropic, через несколько месяцев появятся ИИ-модели, способные к самовоспроизведению на коммерческих IoT-устройствах. В этом сценарии ИИ становится частью программного обеспечения, осуществляющего репликацию, а не только инструментом для написания вредоносного кода.

ИИ-модель проходит четыре стадии для распространения

Процесс распространения ИИ-модели включает четыре этапа. Сначала модель находит другое устройство. Затем она получает возможность выполнять код на этом устройстве. После этого настраивается программное обеспечение, необходимое для работы ИИ-модели. Завершающий этап — продолжение распространения с нового хоста. Исследователи проверили, могут ли ИИ-агенты выполнить эту последовательность. Они не демонстрировали самостоятельное распространение и работу модели на скомпрометированных домашних устройствах. Тесты проводились с использованием эмуляторов Android с неаутентифицированным доступом к отладке, что упростило агентам получение доступа по сравнению с должным образом защищенными устройствами. Большие файловые трансферы и постоянная связь между устройствами могут облегчить реальное воспроизведение, а ограниченная вычислительная мощность — замедлить его. Эксперименты не показали модель, которая была бы одновременно достаточно мощной для завершения процесса репликации и достаточно маленькой для работы на целевом потребительском оборудовании. Anthropic прогнозирует, что небольшие модели достигнут необходимой мощности к концу 2026 года при сохранении текущих темпов развития.

Исследование касается владельцев IoT-устройств и разработчиков

Профессор Университета Иллинойса Варун Чандрасекаран сообщил AFP, что выводы соответствуют сопутствующим исследованиям, но отметил, что работа Anthropic не была независимо проверена. Он считает более актуальной угрозой использование ИИ людьми для улучшения атак, а не выход ИИ-систем из-под контроля. Ботнеты из умных устройств уже представляют собой проблему. Преступники, захватывающие контроль над подключенными устройствами, не новички в этом. Вредоносное ПО типа Mirai и его потомки использовали роутеры, камеры и видеорегистраторы для создания ботнетов, применяемых для DDoS-атак. BADBOX 2.0 демонстрирует другую форму злоупотребления: скомпрометированные потребительские устройства используются для предоставления услуг резидентного прокси, направляя трафик других людей через интернет-соединения жертв. Ни один из этих случаев не демонстрирует автономную ИИ-репликацию, но оба показывают, что подключенные устройства могут стать инфраструктурой для преступников. Исследование затрагивает всех пользователей умных устройств, так как оно предупреждает о потенциальных рисках, связанных с их использованием.

Обновляйте ПО, покупайте у проверенных вендоров и изолируйте устройства

Для снижения рисков злоупотребления подключенными устройствами рекомендуется выполнять несколько действий. Необходимо регулярно обновлять операционные системы, программное обеспечение и прошивки для уменьшения уязвимостей. Следует приобретать устройства у надежных поставщиков, предоставляющих регулярные обновления прошивки и безопасности. Устройства, купленные по подозрительно низкой цене, могут оказаться небезопасными из-за ненадежного программного обеспечения или отсутствия обновлений. Избегайте неофициальных магазинов приложений, предлагающих бесплатный контент. ФБР отмечает такие торговые площадки в своем руководстве по BADBOX 2.0. Не следует отключать встроенные средства защиты для работы приложений. Запросы на отключение Google Play Protect являются тревожным сигналом, как и Android-устройства без сертификации Play Protect. При обнаружении подозрительной активности устройство следует отключить от сети до выяснения обстоятельств. Умные устройства, не поддерживающие программное обеспечение безопасности, рекомендуется размещать в отдельной сети, изолированной от компьютеров и телефонов, например, в гостевой сети.