В письме говорится, что «очень реалистичные цифровые подделки», которые показывают «убедительные изображения людей, делающих или говорящих то, что они никогда не делали», могут быть использованы для шантажа и дезинформации.
«Поскольку эта технология становится более передовой и более доступной, она может представлять угрозу для публичного дискурса и национальной безопасности Соединенных Штатов», — отмечают авторы письма из Палаты представителей Адам Шифф, Стефани Мерфи и Карлос Курбело.
В заявлении для прессы Курбело также отметил, что «такого рода подделки имеют потенциал, чтобы нарушить все аспекты нашего общества и вызвать опасные международные и внутренние последствия. Как и в случае с любой угрозой, наше разведывательное сообщество должно быть готово бороться с ними».
Deepfake впервые появились в 2016 году, когда пользователи Reddit начали использовать передовые исследования ИИ, чтобы вставлять лица знаменитостей в порно. Новое слово сочетает в себе два других — «глубокое обучение» и «подделки». Эта фразу впервые использовали на форуме, но постепенно она стала синонимом широкого спектра технологий редактирования ИИ. Такие инструменты могут превращать людей в виртуальных марионеток, синхронизируя их рты с чужой речью или просто заставляя их танцевать.