ИИ научился убедительно писать фальшивые обзоры

Ученые из Чикагского университета разработали нейросеть, которая генерирует фальшивые обзоры. Алгоритм создает настолько правдоподобные рецензии, что отличить от реальных невозможно. ИИ не только детально описывает выдуманные походы в ресторан, но и дополняет им деталями из “жизни” и полезными рекомендациями.

Алгоритм-рецензент базируется на рекуррентных нейронных сетях (RNN). Этот метод глубокого обучения позволяет быстро и с высокой точностью обучать ИИ на существующих образцах. Исследователи из Чикагского университета предоставили нейросети тысячи реальных отзывов на рестораны и отели, найденных в сети.

После изучения материала нейросеть научился генерировать выдуманные обзоры. В интервью Business Insider профессор компьютерных наук и автор исследования Бен Джао рассказал, что алгоритм не только пишет правдоподобные рецензии, но и проходит автоматизированный тест на плагиат.

Секрет алгоритма заключается в подходе к написанию. Система берет из массива данных отдельные слова, а не просто перетасовывает отрезки текста. Благодаря этому рецензии получают высокий фактор уникальности.

«Алгоритмам нельзя внушить представление о справедливости»

Отличить фальшивую рецензию от настоящей можно только с помощью статистических методов — для этого текст нужно прогнать через специальный алгоритм. Однако Бен Чжао считает, что скоро нейросети усовершенствуются настолько, что смогут обмануть даже другие машинные системы.

Ученый также предполагает, что распространение сгенерированных обзоров подорвет всю индустрию рецензий. Существуют тысячи компаний, которые платят пользователям небольшие деньги за написание положительных и отрицательных отзывов. Нейросети позволят свести траты к нулю и автоматизировать процесс. Люди полностью утратят доверие к сайтам с обзорами, так как установить их подлинность будет невозможно.

Своей работой Чжао хочет привлечь внимание к реальным проблемам ИИ, а не к надуманным Скайнету и сингулярности. Ученый уверен, что рутинное применение алгоритмов для создания фальшивого контента несет людям более реальную угрозу.

ИИ спрогнозировал финал «Игры престолов»

«Хайтек» уже писал о генеративных нейросетях, которые вскоре породят новое поколение фейкового контента, причем как в аудио, так и в видео формате. Это может привести к появлению верификационных устройств, которые станут таким же обыденным устройством, как веб-камера или компьютерная мышь.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Подросток установил шесть рекордов по математике за день: в чем секрет
Новости
Эту звезду искали 40 лет: она состоит из очень необычной материи
Новости
Найдена связь между взрывом сверхновой и эволюции жизни на Земле
Новости
«Случайность маловероятна»: в Балтике поврежден интернет-кабель
Новости
SpaceX запустит телескоп для защиты Земли: как он будет работать
Новости
Ученые создают датчики, похожие на усики комаров, для обнаружения землетрясений
Наука
ИИ диагностирует диабет, ВИЧ и COVID по одному образцу крови
Наука
Китайские генетики создали «рис для укрепления здоровья сердечной системы»
Наука
Тяжелое генетическое заболевание вылечили до рождения в утробе матери
Наука
Высокоскоростная съемка показала, что происходит с каплей при падении в бассейн
Наука
В России создали ИИ-платформу для ускоренной разработки лекарств
Иннополис
Физики побили рекорд Китая по удержанию плазмы в искусственном Солнце
Наука
Мертвая галактика посылает мощные радиовсплески: ученые не могут это объяснить  
Космос
«Невозможная» пара звезд-вампиров странно ведет себя в космосе
Космос
В iPhone 16e стоят чипы, которые оказались недостаточно хороши для iPhone 16
Новости
Выяснилось, как темная тема на сайтах влияет на гаджеты
Новости
Ученые впервые создали «пластичный» инопланетный лед
Наука
В каких странах больше боятся замены людей на ИИ, показало исследование
Наука
Мини-землетрясения под ледяным щитом Гренландии могут изменить уровень моря
Наука
Посмотрите, как Blue Ghost летит над обратной стороной Луны
Космос