Anthropic: ИИ-черви могут научиться заражать бытовую технику и серверы

ИИ-черви научатся заражать бытовую технику и серверы

Компания Anthropic предупредила о новой потенциальной угрозе кибербезопасности. Небольшие модели искусственного интеллекта могут научиться самостоятельно распространяться между подключёнными к интернету устройствами. Такие системы смогут находить уязвимости, копировать себя на другие устройства и продолжать распространение без участия человека. Специалисты изучили возможность автономного размножения ИИ-моделей на бытовой электронике. Среди потенциальных целей рассматриваются умные телевизоры, Android-приставки, бытовая техника и другие устройства интернета вещей. Эти устройства зачастую имеют недостаточную защиту.

Модели размером до 30 млрд параметров выполняют этапы самовоспроизведения

Исследователи установили, что модели размером до 30 млрд параметров уже способны выполнять многие отдельные этапы самовоспроизведения. При попытке последовательно пройти весь процесс они пока допускают ошибки. В упрощённых экспериментах с ослабленными защитными механизмами модели уровня GLM-5.2 смогли выполнить полный цикл распространения. По оценке Anthropic, если развитие компактных моделей сохранит нынешние темпы, необходимые возможности могут появиться уже к концу 2026 года. Это прогноз, основанный на лабораторных испытаниях, а не подтверждённое массовое распространение подобных угроз.

Автономность ИИ-червей усложнит их отключение

Главная опасность заключается в автономности таких систем. В отличие от традиционного вредоносного ПО, ИИ-черви потенциально смогут адаптироваться к незнакомому оборудованию, искать новые способы проникновения и использовать вычислительные ресурсы заражённых устройств. Особенно сложным может оказаться их отключение. Распределённая сеть заражённых телевизоров, бытовой техники и серверов не будет зависеть от единого центра управления. Блокировка отдельных узлов не обязательно остановит распространение.

Усилить защиту устройств интернета вещей и обновлять прошивки

В Anthropic допускают несколько сценариев развития угрозы: от медленного распространения через слабо защищённые домашние устройства до проникновения в инфраструктуру дата-центров. Компания подчёркивает необходимость усиления защиты устройств интернета вещей, своевременного обновления прошивок и ограничения несанкционированного доступа к вычислительным ресурсам. Пока эксперименты не доказывают существование полностью автономных ИИ-червей, способных бесконтрольно распространяться в реальных сетях. Результаты исследования показывают, что появление таких угроз может стать новым вызовом для производителей оборудования и специалистов по информационной безопасности.