Детектор дипфейков впервые обманули

Детектор дипфейков, который обнаруживает любые изменения в исходном видео, впервые удалось обмануть: это продемонстрировали программисты из Калифорнии.

Программисты показали, что детектор можно обмануть, если вставлять входные данные, их еще называют примерами состязательности, в каждый видеокадр. Состязательные примеры — это слегка измененные входные данные, которые заставляют системы искусственного интеллекта ошибаться. Кроме того, команда показала, что способ работает даже после сжатия видео.

Напомним, что в deepfakes, или дипфейках лицо любого субъекта можно изменить на чужое так, чтобы это смотрелось правдоподобно. Так можно создать реалистичные кадры событий, которые на самом деле никогда не происходили.

Типичные детекторы deepfake фокусируются на лицах в видео: они сначала отслеживают их, а затем передают отдельно фрагмент лица в нейронную сеть, которая определяет, является ли видео реальным или поддельным. Например, моргание глаз плохо воспроизводится в deepfakes, поэтому детекторы фокусируются на движениях глаз. Современные детекторы полагаются на модели машинного обучения для идентификации поддельных видео.

Авторы работы протестировали свою обработку видео в двух сценариях: первый, где злоумышленники имеют полный доступ к модели детектора, способу извлечения лица из видео, архитектуре, параметрам и модели; и другой, где злоумышленники могут только запросить модель машинного обучения, чтобы выяснить вероятность того, каким образом будет классифицирован кадр: как реальный или поддельный.

В первом случае вероятность обмануть детектор составила 99% для несжатых видео, а для сжатых 84,96%. Во втором случае детектор получилось обмануть в 86,43% для несжатого и 78,33% для сжатого видео. Это первая работа, которая демонстрирует успешные атаки на современные детекторы deepfake.

Программисты из Калифорнии отказались выпустить свой код в открытый доступ, чтобы он не был использован для дезинформации.

Читать далее

Посмотрите на изображение Марса из 8 триллионов пикселей

Ядерный ракетный двигатель строят для полетов на Марс. Чем он опасен?

Аборты и наука: что будет с детьми, которых родят

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Найдена странная клеточная сущность на грани жизни
Наука
Ученые раскрыли тайну странного поведения у акул
Наука
Госдума утвердила закон о едином магазине приложений: RuStore становится обязательным
Новости
Путин утвердил запуск цифрового сервиса: мессенджер, «Госуслуги» и ID в одном приложении
Новости
Астрономы раскрыли тайну рождения редких двойных горячих юпитеров
Космос
В янтаре нашли следы грибков-зомби, которым 99 000 000 лет
Наука
Google выпустила автономный «мозг» для роботов: новая модель работает без сети
Новости
В Сингапуре открыли способ омолодить сердце, не меняя клетки
Наука
Возраст стоянки древних людей в Красноярске увеличили на 10 000 лет
Наука
Стартап представил технологию, делающую кровь «прозрачной» во время операций
Наука
Посмотрите, как притягиваются одноименно заряженные частицы
Наука
Наша Вселенная прибыла из другого мира: теория мироздания оказалась неверна
Космос
Появилась безопасная альтернатива препаратам от диабета и ожирения
Наука
Посмотрите на миллионы звезд и 2000 астероидов в беспрецедентном качестве
Космос
Облик древнего существа впервые восстановили в лаборатории: ему 580 млн лет
Наука
Спрос на специалистов по безопасности ИИ в России вырос в четыре раза
Новости
Опасный астероид может столкнуться с Луной вместо Земли: это угрожает спутникам
Космос
Строение перьев совы скопировали для разработки универсальной шумоизоляции
Наука
Популярный антидепрессант нарушил созревание половых клеток у мышей
Наука
На орбиту впервые отправили квантовый компьютер
Космос