Идеи

ИИ научился убедительно писать фальшивые обзоры

Далее

Ученые из Чикагского университета разработали нейросеть, которая генерирует фальшивые обзоры. Алгоритм создает настолько правдоподобные рецензии, что отличить от реальных невозможно. ИИ не только детально описывает выдуманные походы в ресторан, но и дополняет им деталями из “жизни” и полезными рекомендациями.

Алгоритм-рецензент базируется на рекуррентных нейронных сетях (RNN). Этот метод глубокого обучения позволяет быстро и с высокой точностью обучать ИИ на существующих образцах. Исследователи из Чикагского университета предоставили нейросети тысячи реальных отзывов на рестораны и отели, найденных в сети.

После изучения материала нейросеть научился генерировать выдуманные обзоры. В интервью Business Insider профессор компьютерных наук и автор исследования Бен Джао рассказал, что алгоритм не только пишет правдоподобные рецензии, но и проходит автоматизированный тест на плагиат.

Секрет алгоритма заключается в подходе к написанию. Система берет из массива данных отдельные слова, а не просто перетасовывает отрезки текста. Благодаря этому рецензии получают высокий фактор уникальности.

«Алгоритмам нельзя внушить представление о справедливости»

Отличить фальшивую рецензию от настоящей можно только с помощью статистических методов — для этого текст нужно прогнать через специальный алгоритм. Однако Бен Чжао считает, что скоро нейросети усовершенствуются настолько, что смогут обмануть даже другие машинные системы.

Ученый также предполагает, что распространение сгенерированных обзоров подорвет всю индустрию рецензий. Существуют тысячи компаний, которые платят пользователям небольшие деньги за написание положительных и отрицательных отзывов. Нейросети позволят свести траты к нулю и автоматизировать процесс. Люди полностью утратят доверие к сайтам с обзорами, так как установить их подлинность будет невозможно.

Своей работой Чжао хочет привлечь внимание к реальным проблемам ИИ, а не к надуманным Скайнету и сингулярности. Ученый уверен, что рутинное применение алгоритмов для создания фальшивого контента несет людям более реальную угрозу.

ИИ спрогнозировал финал «Игры престолов»

«Хайтек» уже писал о генеративных нейросетях, которые вскоре породят новое поколение фейкового контента, причем как в аудио, так и в видео формате. Это может привести к появлению верификационных устройств, которые станут таким же обыденным устройством, как веб-камера или компьютерная мышь.

Загрузка...