Китайские ИИ-компании крали данные через Claude, предупреждает эксперт «Группы Астра»
Китайские ИИ-компании перенаправляли запросы пользователей в Claude
Китайские компании Moonshot AI и DeepSeek перенаправляли запросы пользователей своих ИИ-моделей к нейросети Claude от Anthropic. Полученные ответы они выдавали за свои собственные. Эксперт «Группы Астра» Владимир Нелюб прокомментировал инцидент. Он указал на опасность теневого рынка ИИ-решений и способы избежать утечек чувствительных данных.
В одном из случаев Moonshot AI за десять дней перенаправила почти 300 000 запросов. Для этого компания использовала сеть из 5380 учетных записей. Большинство этих аккаунтов находились в Сингапуре и Японии. Часть перенаправленных запросов содержала конфиденциальную информацию. Среди них были сведения о слежке и внутренние учетные данные госкомпаний КНР. Инцидент демонстрирует, что любая модель вне корпоративного контроля может передавать данные третьим лицам. Также модели могут переиспользовать информацию в ответах другим пользователям или предоставлять ее злоумышленникам.
Любая модель вне корпоративного контроля передает данные третьим лицам
Владимир Нелюб отметил, что компании, позволяющие сотрудникам пользоваться публичными чат-ботами, рискуют. Теневые ИИ-решения уже работают в их инфраструктуре руками сотрудников. Использование происходит без контроля, логирования и понимания, куда уходят переписки и внутренние документы. Запретительные меры неэффективны. Они лишь загоняют использование ИИ глубже в тень. Единственное действенное решение — построение собственной системы доверенного ИИ. Такая система должна быть удобной для пользователя и безопасной для компании. Она опирается на четыре компонента: собственная аппаратная часть или доверенное облако надежного вендора, инференс-слой для контроля и управления моделями, безопасная среда исполнения агентов и понятные ИИ-инструменты для конечных сотрудников. Российские компании неизбежно придут к построению такой инфраструктуры. В противном случае данные будут утекать не из-за злого умысла, а из-за изначально ненадежной системы хранения.
Построение собственной системы доверенного ИИ — единственное решение
Эксперт «Группы Астра» Владимир Нелюб подчеркнул необходимость построения собственной инфраструктуры доверенного ИИ. Такая система должна обеспечивать контроль над данными и моделями. Она включает аппаратную часть или доверенное облако. Также необходим инференс-слой для управления моделями и логирования. Важна безопасная среда исполнения агентов. Конечным сотрудникам нужны понятные ИИ-инструменты. Построение такой инфраструктуры позволит избежать утечек чувствительных данных. Это актуально для коммерческих и государственных компаний. Без контроля данные могут быть переданы третьим лицам или переиспользованы в ответах другим пользователям. Это происходит из-за особенностей работы ИИ-моделей вне корпоративного периметра.
Источник: CisoClub