Исследователи из Университета Калифорнии показали новый алгоритм, который может определять deepfake-изображения. Первоначальные тесты показали, что инструмент эффективен на 71-85% в зависимости от набора данных. Но он пока не может работать с видео.
Этот надежный алгоритм обнаружения подделок можно использовать против тех, кто пытается распространить ложную информацию, отмечают ученые из Университета Калифорнии.
В быстро развивающихся ситуациях, таких как гуманитарный кризис, запуск нового продукта или предвыборная кампания, фальшивые видео и изображения могут изменить ход событий. «Представьте себе фальшивый образ, в котором политический кандидат «совершает» насильственное преступление, или видео, в котором генеральный директор компании якобы «признается» в сокрытии проблем безопасности в фирменной линейке продуктов», — отмечают исследователи.
Одним из компонентов алгоритма является разновидность «повторяющейся нейронной сети», которая делит изображение на небольшие патчи и рассматривает их по пикселям. Нейронную сеть обучили на тысяче как поддельных, так и подлинных изображений.
Затем алгоритм сравнивает выходные данные фильтров кодирования по пикселям и результаты анализа фильтров кодирования более высокого уровня. Когда эти параллельные анализы совпадают над одной и той же областью изображения, она отмечается как подделка.
К примеру, если на картинку с веткой вставить птицу, то один из алгоритомов будет пиксель за пикселем отмечать область вокруг нее, а второй обнаружит закономерность в большем масштабе картинки.