Новый инструмент определяет 82% deepfake-видео. Возможно, его внедрят на Facebook, где он будет помечать материалы как «некачественные».
В сентябре 2019 года Facebook запустила Deepfake Detection Challenge (DFDC) — конкурс на разработку автономных алгоритмических систем для обнаружения deepfakе-видео. Теперь платформа рассказала о самых удачных наработках — к примеру, модель победителя конкурса смогла определить поддельные материалы в рекордных 82% случаев.
Facebook потратила на конкурс около 10 млн долларов и наняла более 3,5 тыс. актеров для создания тысяч видеороликов. Исследователи специально делали видео плохого качества, но с лицами известных людей. Другая часть выборки полностью состояла из deepfake-видео, которые они взяли из YouTube и других платформ.
Затем компания передала эти наборы данных исследователям. Часть из них не была deepfake-видео — они лишь скорректировали частоту кадров и качество, добавили накладки на изображения. Набор также включал в себя «неглубокие поддельные видео», которые алгоритм мог упустить.
В социальной сети добавили, что в конкурсе приняли участие 2 тыс. участников, которые представили 35 тыс. моделей. Самые неудачные из них имели точность лишь 50% (инженеры Facebook объяснили, что «это чуть лучше, чем совсем бесполезно»). Остальные модели же достигали точности в 80%, причем их обучали лишь несколько месяцев.
«Честно говоря, я был очень разочарован тем, сколько времени и энергии умные исследователи вкладывают в создание подделок. Они могут нанести вред без соразмерных инвестиций в методы обнаружения и борьбы с их плохим использованием, — заявил технический директор Facebook Майк Шроепфер. — Мы попытались сделать акцент на инструменты и технологии, которые помогут нам бороться с ними не только на нашей платформе».
Читать также:
— Женская яйцеклетка умеет «выбирать» сперматозоиды: ее обладательница тут ни при чем
— Астрономы нашли планету, похожую на Землю. Она вращается вокруг звезды, похожей на Солнце