Локальный код в Muse для macOS перенаправляет диктовку на сервер злоумышленника

Исследователь безопасности Патрик Уордл обнаружил уязвимость нулевого дня в приложении Muse для macOS. Уязвимость позволяет локальному процессу без привилегий перенаправлять трафик диктовки приложения на сервер злоумышленника. Это может привести к утечке аудиозаписей и запросов, отправляемых в модель ИИ. Уязвимость не представляет угрозы для удаленных атакующих, но дает локальному вредоносному ПО расширенный доступ к системе.

Muse Secure VM обрабатывает диктовку и запросы к ИИ

Muse — это приложение ИИ-ассистента от Meta для macOS. Оно полагается на компонент Muse Secure VM для обработки данных пользователя. При запуске Meta заявляла о высокой степени безопасности приложения и контроле пользователя над доступом к данным. Однако, как показал Патрик Уордл, локальный злоумышленник может изменить скрытую настройку endo_voyager_dictation_endpoint. Это позволяет перенаправить диктовку на конечную точку, контролируемую атакующим. Уязвимость может быть использована для инъекции команд, кражи учетных данных и злоупотребления правами доступа, предоставленными приложению.

Уязвимость затрагивает локальные установки Muse для macOS

Уязвимость существует в приложении Muse для macOS. Она требует возможности выполнения локального кода на устройстве. Исследователь Патрик Уордл разработал proof-of-concept под названием not-a-mused, демонстрирующий эксплуатацию этой уязвимости. Уязвимость не затрагивает облачные установки Muse. Для локальных установок требуется обновление или установка патча безопасности, если он будет выпущен Meta. На данный момент Meta не предоставила комментариев по поводу уязвимости.

Обновить Muse или использовать встроенную диктовку Apple

Патрик Уордл рекомендует использовать встроенную функцию диктовки macOS от Apple, если это возможно. Это позволит избежать использования API, которое может быть уязвимо. Также исследователь предлагает разработчикам ИИ-приложений уделять больше внимания безопасности своих продуктов. Он отмечает, что компании, разрабатывающие ИИ, обладают мощными моделями для поиска уязвимостей, но не всегда применяют их для защиты собственных приложений. Для пользователей Muse на macOS рекомендуется проявлять осторожность и следить за обновлениями безопасности от Meta.

Источник: The Register