Facebook вместе с Microsoft и рядом американских университетов учредили исследовательский конкурс Deepfake Detection Challenge, главная задача которого — разработка технологий для борьбы с подменой лиц на видео.
За последнее время исследователи со всего мира создали несколько десятков нейросетей, которые позволяют с разной степенью реалистичности подменить лицо или голос на видео. Код большинства алгоритмов не публикуется в открытом доступе, однако существуют отдельные проекты, кодом которых может воспользоваться любой желающий.
Один их них — Deepfake (от deep learning — «глубинное обучение» и fake videos — «поддельные видео»). Алгоритм работает на основе алгоритмов с открытым кодом, таких как TensorFlow, и обучается по видео с YouTube. Затем система старается подставить лицо выбранного человека к исходному видео с максимальной реалистичностью.
Конкурс направлен на то, чтобы создать технологии, которые позволят автоматически идентифицировать подделки. Команды разработчиков, которые представляют лучшие решения, будут поддержаны исследовательскими грантами, размер которых пока не раскрывается.
Одна из задач конкурса — создание масштабного открытого датасета, в котором будут содержаться видео с подменой лиц. В его создании примут участие профессиональные актеры, соглашения с которыми заключит Facebook.
Ранее команда ученых из Калифорнийского университета обучила нейронную сеть на большой базе отредактированных и неотредактированных фотографий, заранее пометив каждую из них. Система обращала внимание на пиксели вдоль границ объектов, которые часто выдают манипуляции.