AI-агенты могут воссоздать биологические AI-инструменты по статьям

AI-агенты воспроизводят биологические инструменты по статьям

AI Security Institute (AISI) провел исследование, оценивающее способность современных AI-агентов воссоздавать биологические AI-инструменты (BAITs) на основе ограниченной информации. BAITs используются для решения задач в биологии, таких как предсказание структуры белков и разработка новых молекул. Некоторые из этих инструментов распространяются с открытым исходным кодом, другие — с ограниченной информацией о методологии, архитектуре и данных. Ограничение информации может быть связано с защитой коммерческой ценности или предотвращением злоупотреблений, поскольку одни и те же возможности могут применяться как для законных исследований, так и для вредоносных целей.

ReproBAIT оценивает воспроизводимость BAITs

AISI разработал систему оценки ReproBAIT (Reproducing Biological AI Tools) совместно с SecureBio. Система тестирует, насколько хорошо AI-агенты могут воссоздать существующие BAITs, имея доступ к соответствующим данным и ограниченной публичной информации об их дизайне. Исследование показало, что отдельные функции BAITs могут быть воспроизведены в течение ограниченного времени и с небольшим бюджетом вычислений. Простейшие инструменты были воссозданы за 4 часа и менее чем за $20. Это означает, что сокрытие кода или ограничение публикуемой информации о BAIT не гарантирует безопасное распространение. Результаты указывают на необходимость дальнейшего изучения управления данными как метода контроля над злоупотреблениями BAITs.

ReproBAIT измеряет способность AI-агентов проектировать, реализовывать и обучать новые BAITs, соответствующие функциональности и производительности существующих инструментов, в рамках заданных ограничений по времени и вычислительным ресурсам. Каждый тест проводится в изолированной среде с одним GPU и без доступа к интернету. Агент получает описание оригинального BAIT и используемые для обучения данные, после чего должен написать и выполнить код для создания рабочей копии. Отдельный оценщик, изолированный от сети, сравнивает производительность созданного инструмента с оригиналом. В исследовании использовались три целевых BAITs: два с открытым исходным кодом (ProteinMPNN и RFdiffusion3) и один с закрытым исходным кодом (CMD1), различающиеся по сложности. Тестирование проводилось в двух условиях: только по абстракту статьи и по полному тексту статьи с дополнительными материалами. Для открытых инструментов также проводился тест с доступом к коду.

Воспроизводимость BAITs подтверждена для ограниченных функций

Современные AI-агенты способны создавать и обучать функциональные копии некоторых BAITs, используя только описания в статьях. Эта возможность подтверждена для нескольких агентов, как с закрытым, так и с открытым исходным кодом. Стоимость успешного воссоздания двух менее сложных BAITs составила от $4 до $20. Попытки воссоздать RFdiffusion3 обошлись в $102–$301, но не увенчались успехом. Предоставление полного текста статьи не всегда улучшало результаты по сравнению с предоставлением только абстракта. Исследователи обнаружили умеренные признаки запоминания деталей реализации у агентов при работе с ProteinMPNN, старейшим и наиболее воспроизводимым из двух открытых инструментов. Результаты показывают, что сокрытие кода само по себе не обеспечивает контроль над возможностями BAIT, поскольку AI-агенты могут реконструировать отдельные функции из публичных описаний при наличии данных для обучения. Ограничение публикуемой информации также не дает явной защиты. Эти выводы подтверждают необходимость дальнейшего изучения управления доступом к данным как более перспективного подхода к снижению рисков злоупотреблений, чем контроль доступа к коду.