Гудфеллоу говорит, что сейчас занимается подобными проектами в Google Brain. По большей части, это генеративно-состязательные сети — понятие, которое он сам описал в 2014 году. Это специальные алгоритмы машинного обучения, которые построены на соперничестве двух нейросетей. Одна воссоздает различные модели, а вторая проверяет их подлинность. В ходе такого соперничества модели получаются все совершеннее. И уже сейчас такие сети способны создавать фотографии, подлинность которых человек не способен установить.
Фейки создавались и раньше, но для действительно качественной подделки требовались огромные ресурсы. ИИ может кардинально изменить ситуацию. Алгоритмы делают процесс фальсификации доступным и гораздо более быстрым. При этом они не стоят на месте и постоянно изучают, как сделать результат своей работы еще более достоверным. Из-за этого Гудфеллоу считает, что скоро в медиа и новостной среде появится огромное число таких качественных подделок, что смогут одурачить очень большое число людей.
Бороться с этим сложно, поэтому, по его мнению, люди просто станут более скептически настроенными. Кто-то вовсе перестанет потреблять фото и видеоконтент, потому что полностью потеряет к нему доверие. «Исторически сложилось, что мы полагаемся на видео как на доказательство того, что событие действительно произошло», — рассказал он во время выступления. Но с новыми технологиями, возможно, придется что-то менять. По словам Гудфеллоу, были времена в истории, когда люди справлялись без новостей с видео- и фотоматериалами. Возможно, придется вновь вернуться в эти времена.
«Нет сомнений, что мир готов к промышленной роботизации»
Технологии
Как только ИИ взялся за редактирование фотографий, сразу же возникли опасения в том, что когда-нибудь дело дойдет и до создания подделок. Пока строились предположения, алгоритмы научили подделывать не только изображения, но и голоса конкретных людей. Так что под угрозой не только визуальные новости, но радиоэфиры.