Временное изъятие популярной программы из цифрового каталога случилось после того, как один из пользователей разместил в открытом групповом чате запрещенные порнографические материалы. Администрация сервиса восстановила доступ к приложению в течение нескольких часов, однако инцидент вскрыл уязвимость в цепочке взаимодействия разработчиков со службой модерации американской корпорации. Штатная система безопасности мессенджера оперативно ликвидирует противоправные публикации при помощи […]
Временное изъятие популярной программы из цифрового каталога случилось после того, как один из пользователей разместил в открытом групповом чате запрещенные порнографические материалы. Администрация сервиса восстановила доступ к приложению в течение нескольких часов, однако инцидент вскрыл уязвимость в цепочке взаимодействия разработчиков со службой модерации американской корпорации.
Штатная система безопасности мессенджера оперативно ликвидирует противоправные публикации при помощи нейросетевых фильтров, хэшей файлов и жалоб участников. Чтобы обойти эти барьеры, злоумышленник отредактировал старое сообщение в активной группе, внедрив туда измененный искусственным интеллектом медиафайл. Данная уловка сделала запрещенный объект фактически невидимым для обычных участников сообщества, лишив их возможности вовремя отправить жалобу.
Организатором атаки оказался вымогатель, который требовал у выкупы у владельцев крупных публичных каналов под угрозой блокировки их площадок. Шантажисты используют автоматизированные учетные записи для загрузки скрытых материалов, а затем отправляют прямые жалобы в проверяющие структуры Apple. Это провоцирует американскую корпорацию на жесткие санкции против легитимных ресурсов, чьи администраторы отказались платить дань.
Глава технологической компании подчеркнул, что порнографический контент в мессенджере не является системной проблемой, а изощренность уловок хакеров лишь подтверждает эффективность текущей модерации. При этом инцидент продемонстрировал опасный прецедент: Apple удалила глобальный сервис с миллиардной аудиторией без какого-либо предварительного уведомления или запроса к команде разработки. Подобная чрезмерная реакция создает системные риски для любого мобильного софта, работающего с пользовательским контентом.
Обложка: magnific
*Павел Дуров внесен Росфинмониторингом в перечень террористов и экстремистов.
