Telegram исчез из App Store на 40 минут: Павел Дуров заявил о шантаже и использовании материалов, созданных с помощью ИИ

Неожиданное исчезновение Telegram из магазина приложений App Store оказалось связано не с масштабным сбоем, а с действиями злоумышленника, который, по словам генерального директора компании Павла Дурова, использовал искусственный интеллект для создания запрещенного контента и попытался добиться удаления платформы.

Как рассказал Дуров, Telegram столкнулся с деятельностью так называемого «вымогателя, специализирующегося на блокировках». Подобные злоумышленники требуют деньги у владельцев крупных сообществ, угрожая публикацией незаконных материалов и последующей отправкой жалоб модераторам.

Инцидент произошел в ночь на понедельник, когда Apple временно удалила Telegram из App Store. Спустя примерно 40 минут приложение вновь стало доступно пользователям.

В Apple подтвердили факт удаления программы. Компания заявила, что во время проверки был обнаружен контент, связанный с сексуальной эксплуатацией детей, который нарушал правила магазина приложений. После того как Telegram удалил материалы и заблокировал учетную запись пользователя, приложение было восстановлено.

Как именно, по словам Дурова, была организована атака

Глава Telegram утверждает, что злоумышленник использовал необычную схему, позволившую обойти существующие инструменты модерации. Вместо публикации нового сообщения была изменена старая запись в активном публичном канале.

По словам Дурова, эта особенность позволила скрыть запрещенные материалы от большинства участников сообщества, поскольку они не увидели уведомление об изменении сообщения и не смогли своевременно отправить жалобу.

Предположительно схема выглядела следующим образом:

• злоумышленники размещали незаконные материалы в популярных сообществах;
• контент создавался или модифицировался с использованием инструментов искусственного интеллекта;
• после публикации материалы немедленно отправлялись на проверку Apple;
• модераторы магазина приложений реагировали на нарушение;
• владельцы групп оказывались под угрозой блокировки.

Дуров утверждает, что подобные атаки проводились против администраторов сообществ, отказавшихся платить выкуп.

Почему ситуация вызвала беспокойство в отрасли

Руководитель Telegram считает, что произошедшее может стать тревожным сигналом не только для его компании, но и для других цифровых платформ, работающих с пользовательским контентом.

По его словам, проблема заключается в том, что злоумышленники могут использовать автоматизированные учетные записи, а также современные системы генеративного искусственного интеллекта для распространения незаконных материалов и последующего давления на владельцев интернет-площадок.

Примечательно, что, по утверждению Дурова, представители Apple приняли решение о временном удалении приложения еще до того, как связались с Telegram для выяснения обстоятельств.

При этом в самой Apple ситуацию описывают иначе. Компания подчеркнула, что обнаруженный контент нарушал правила App Store, а Telegram оперативно устранил проблему, благодаря чему сервис был восстановлен.

На момент публикации материала Apple не прокомментировала заявления о шантаже и использовании мошеннической схемы.

Развитие искусственного интеллекта создает новые угрозы

История с Telegram показывает, насколько серьезной становится проблема распространения незаконного контента, созданного при помощи нейросетей. Еще несколько лет назад подобные атаки потребовали бы значительных ресурсов, тогда как сегодня многие инструменты генерации изображений и видео доступны практически каждому пользователю.

Специалисты по кибербезопасности уже давно предупреждают, что развитие искусственного интеллекта неизбежно приведет к появлению новых способов мошенничества, шантажа и манипулирования системами автоматической модерации.

Особенно сложной ситуация становится для крупных платформ, аудитория которых исчисляется сотнями миллионов пользователей. Даже единичный инцидент способен привести к серьезным репутационным потерям, временной блокировке сервиса и финансовым убыткам.

Для украинских пользователей эта история также имеет особое значение. Telegram остается одним из основных источников новостей, средством общения и рабочим инструментом для миллионов людей. Именно поэтому даже кратковременное исчезновение приложения из App Store мгновенно вызвало широкий общественный резонанс.

Пока остается неясным, приведет ли этот случай к пересмотру политики модерации Apple и Telegram. Однако уже сейчас очевидно, что стремительное развитие технологий искусственного интеллекта вынуждает технологические компании искать новые способы борьбы со все более сложными угрозами.

Теги:

Источник