ИИ научился убедительно писать фальшивые обзоры

Ученые из Чикагского университета разработали нейросеть, которая генерирует фальшивые обзоры. Алгоритм создает настолько правдоподобные рецензии, что отличить от реальных невозможно. ИИ не только детально описывает выдуманные походы в ресторан, но и дополняет им деталями из “жизни” и полезными рекомендациями.

Алгоритм-рецензент базируется на рекуррентных нейронных сетях (RNN). Этот метод глубокого обучения позволяет быстро и с высокой точностью обучать ИИ на существующих образцах. Исследователи из Чикагского университета предоставили нейросети тысячи реальных отзывов на рестораны и отели, найденных в сети.

После изучения материала нейросеть научился генерировать выдуманные обзоры. В интервью Business Insider профессор компьютерных наук и автор исследования Бен Джао рассказал, что алгоритм не только пишет правдоподобные рецензии, но и проходит автоматизированный тест на плагиат.

Секрет алгоритма заключается в подходе к написанию. Система берет из массива данных отдельные слова, а не просто перетасовывает отрезки текста. Благодаря этому рецензии получают высокий фактор уникальности.

«Алгоритмам нельзя внушить представление о справедливости»

Отличить фальшивую рецензию от настоящей можно только с помощью статистических методов — для этого текст нужно прогнать через специальный алгоритм. Однако Бен Чжао считает, что скоро нейросети усовершенствуются настолько, что смогут обмануть даже другие машинные системы.

Ученый также предполагает, что распространение сгенерированных обзоров подорвет всю индустрию рецензий. Существуют тысячи компаний, которые платят пользователям небольшие деньги за написание положительных и отрицательных отзывов. Нейросети позволят свести траты к нулю и автоматизировать процесс. Люди полностью утратят доверие к сайтам с обзорами, так как установить их подлинность будет невозможно.

Своей работой Чжао хочет привлечь внимание к реальным проблемам ИИ, а не к надуманным Скайнету и сингулярности. Ученый уверен, что рутинное применение алгоритмов для создания фальшивого контента несет людям более реальную угрозу.

ИИ спрогнозировал финал «Игры престолов»

«Хайтек» уже писал о генеративных нейросетях, которые вскоре породят новое поколение фейкового контента, причем как в аудио, так и в видео формате. Это может привести к появлению верификационных устройств, которые станут таким же обыденным устройством, как веб-камера или компьютерная мышь.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Написать научный труд в эпоху нейросетей: как сделать ИИ помощником?
Мнения
Следы «долгожданной» черной дыры нашли в соседней галактике
Космос
В Анапе испытали устройство для сбора мазута со дна моря
Наука
Филиппинские физики создали дешевые жидкие линзы из обычной воды
Наука
Perplexity вслед за OpenAI заявила в суде о желании приобрести Chrome
Новости
В МГУ разработали математическую модель для предотвращения давки
Наука
Посмотрите на самое подробное изображение Солнца, сделанное зондом Solar Orbiter
Космос
Физики обнаружили частицу самого дорогого вещества на Земле
Новости
Оружие будущего: Япония запустила снаряды из рельсотрона со скоростью 8000 км/ч
Новости
ИТ-рынок России может закрыться для «возвращенцев»: что придумали депутаты
Новости
Оказалось, популярный препарат от облысения приводит к импотенции и депрессии
Наука
Россия запускает свою криптобиржу — но не для всех
Новости
Таксистам предложили пересесть на российские авто: почему они против
Новости
Осьминог «обнял» морского оператора: посмотрите на уникальное поведение головоногого
Наука
Посмотрите на туманность, которую создала ракета SpaceX в атмосфере Земли
Космос
Физики опровергли теорию Большого взрыва: как родилась Вселенная на самом деле
Космос
На премии «Оскар» будут фильмы с ИИ: какие правила внедрила академия
Новости
Названы самые уязвимые приложения в России: данные пользователей под угрозой
Новости
Оказалось, что тревожность наследуется: как она закладывается в ДНК
Наука
YouTube обещает автоматически дублировать все видео через пять лет
Новости