Администрация Facebook заявила, что она запретит публиковать deepfake-видео на своей платформе. Социальная сеть будет автоматически удалять видео, которое отредактированы с помощью ИИ, где «аудиторию вводят в заблуждение с помощью слов, которые герои не произносили».
Новые правила Facebook не будут распространяться на контент, который изначально создавался как пародия или сатира. Кроме того, если видео редактировали с помощью ИИ для того, чтобы убрать ненужные паузы или изменить порядок слов — материалы удаляться не будут.
Видео, размещенные на Facebook, будут по-прежнему подвергаться системе проверки фактов, чтобы заранее обнаружить материалы, которые могут ввести пользователей в заблуждение. Их отметят как «ложные» и понизят в выдаче новостной ленты сайте.
Новое исследование компании Deeptrace показало резкое увеличение фальшивых видеороликов — их количество за последние девять месяцев удвоилось. Эксперты также выяснили, что эти видео превращаются из хобби и развлечения в прибыльный бизнес.
Исследование провела компания Deeptrace, которая специализируется на кибербезопасности. Она обнаружила в интернете 14 698 поддельных видеороликов по сравнению с 7 964 в декабре 2018 года. В компании отметили, что 96% роликов были порно, часто там использовались лица знаменитостей. В остальных случаях материалы имели отношение к юмору или политике.