Глава Telegram: мессенджер временно убрали из App Store после манипуляции со старым сообщением и не спросив команду

Telegram временно удалили из App Store после жалобы вымогателя

Основатель Telegram Павел Дуров сообщил о временном удалении мессенджера из App Store. Причиной стала манипуляция со старым сообщением в публичной группе, в которое злоумышленник добавил незаконный контент, изменённый с помощью ИИ. Этот контент был скрыт от пользователей и модераторов Telegram. Злоумышленник, действуя как вымогатель, пожаловался на это сообщение в Apple, что привело к удалению приложения. Telegram был восстановлен в течение нескольких часов. Инцидент затронул только мобильные клиенты для iOS и iPadOS, версии для Mac App Store и Google Play остались доступны. Apple официально заявила об обнаружении материалов с сексуальным насилием над детьми (CSAM), что является нарушением правил магазина приложений. Мессенджер вернули после оперативного удаления запрещённого контента и блокировки пользователя, распространявшего материалы.

Злоумышленник использовал редактирование старого сообщения для сокрытия контента

Для обхода систем модерации Telegram, включающих фильтры ИИ и хэши контента, злоумышленник прибегнул к техническому трюку. Он отредактировал ранее опубликованное сообщение в активном групповом чате, добавив в него незаконный контент, модифицированный с помощью искусственного интеллекта. Такой метод позволил скрыть контент от участников группы, предотвратив его оперативное обнаружение и жалобы. Вымогатели, требующие выкуп за невмешательство в работу сообществ, использовали автоматизированные аккаунты для размещения такого контента и последующей жалобы в Apple. Это демонстрирует, что для успешной атаки на Telegram злоумышленникам пришлось использовать устаревшие и фактически невидимые материалы, что подтверждает эффективность штатной системы модерации мессенджера.

Инцидент затронул пользователей iOS и iPadOS, а также разработчиков приложений

Временное удаление Telegram из App Store коснулось пользователей мобильных устройств под управлением iOS и iPadOS в различных странах, включая Россию, Турцию и США. В период недоступности приложения пользователи также столкнулись с временной неработоспособностью пуш-уведомлений на iOS. Инцидент создал прецедент для других разработчиков приложений, размещающих пользовательский контент. Удаление Telegram из App Store без предварительного уведомления администрации платформы создаёт системный риск для любых приложений, поскольку подобное может произойти с любым сервисом, независимо от его популярности. Это также подчеркивает необходимость для других платформ быть готовыми к постоянно развивающимся тактикам злоумышленников.

Apple требует от Telegram придерживаться строгого подхода к модерации в будущем

Telegram обратился к Apple с просьбой применять столь же строгий подход к модерации контента в отношении всех приложений в App Store. Это не первый случай разногласий между компаниями: в 2018 году Apple также временно удаляла Telegram и Telegram X из-за распространения запрещённого контента, после чего мессенджер усилил меры модерации. В данном случае Apple удалила приложение, обнаружив материалы с сексуальным насилием над детьми (CSAM), что является прямым нарушением правил магазина. Приложение было восстановлено после того, как разработчик оперативно удалил запрещённый контент и заблокировал пользователя, распространявшего материалы. Инцидент занял считанные часы, и Apple опубликовала официальное заявление вскоре после восстановления доступа.

Источники: Anti-Malware · Хабр / Новости · Forbes