ИИ научился убедительно писать фальшивые обзоры

Ученые из Чикагского университета разработали нейросеть, которая генерирует фальшивые обзоры. Алгоритм создает настолько правдоподобные рецензии, что отличить от реальных невозможно. ИИ не только детально описывает выдуманные походы в ресторан, но и дополняет им деталями из “жизни” и полезными рекомендациями.

Алгоритм-рецензент базируется на рекуррентных нейронных сетях (RNN). Этот метод глубокого обучения позволяет быстро и с высокой точностью обучать ИИ на существующих образцах. Исследователи из Чикагского университета предоставили нейросети тысячи реальных отзывов на рестораны и отели, найденных в сети.

После изучения материала нейросеть научился генерировать выдуманные обзоры. В интервью Business Insider профессор компьютерных наук и автор исследования Бен Джао рассказал, что алгоритм не только пишет правдоподобные рецензии, но и проходит автоматизированный тест на плагиат.

Секрет алгоритма заключается в подходе к написанию. Система берет из массива данных отдельные слова, а не просто перетасовывает отрезки текста. Благодаря этому рецензии получают высокий фактор уникальности.

«Алгоритмам нельзя внушить представление о справедливости»

Отличить фальшивую рецензию от настоящей можно только с помощью статистических методов — для этого текст нужно прогнать через специальный алгоритм. Однако Бен Чжао считает, что скоро нейросети усовершенствуются настолько, что смогут обмануть даже другие машинные системы.

Ученый также предполагает, что распространение сгенерированных обзоров подорвет всю индустрию рецензий. Существуют тысячи компаний, которые платят пользователям небольшие деньги за написание положительных и отрицательных отзывов. Нейросети позволят свести траты к нулю и автоматизировать процесс. Люди полностью утратят доверие к сайтам с обзорами, так как установить их подлинность будет невозможно.

Своей работой Чжао хочет привлечь внимание к реальным проблемам ИИ, а не к надуманным Скайнету и сингулярности. Ученый уверен, что рутинное применение алгоритмов для создания фальшивого контента несет людям более реальную угрозу.

ИИ спрогнозировал финал «Игры престолов»

«Хайтек» уже писал о генеративных нейросетях, которые вскоре породят новое поколение фейкового контента, причем как в аудио, так и в видео формате. Это может привести к появлению верификационных устройств, которые станут таким же обыденным устройством, как веб-камера или компьютерная мышь.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Врачи пересадили мужчине стволовые клетки для борьбы с бесплодием
Наука
Китайские ученые создали 32-битный процессор толщиной в одну молекулу
Новости
«Пьяные» самцы привлекательнее для самок дрозофил, показало исследование
Наука
Midjourney запустила новый генератор изображений после вирусного обновления ChatGPT
Новости
Самокаты только по биометрии: какие изменения планируют в России
Новости
Студенты разработали приложение для баланса работы и личной жизни
Новости
Неуловимую «обреченную» пару звезд нашли вблизи Солнечной системы
Космос
Как защитить доступ к «Госуслугам» от мошенников: появился новый способ
Новости
«Уэбб» поставил астрономов в тупик: какую аномалию он нашел во Вселенной
Космос
Физики собрали «квантовый сэндвич» из невозможных материалов
Наука
Российский военный спутник выпустил новый объект на орбите: неизвестно, что это
Кейсы
Эта черная дыра поглощает материю и выбрасывает часть еды в космос
Космос
«Уэбб» раскрыл тайну центра Млечного Пути: почему там формируется слишком мало звезд
Космос
Рак распространяется как сеть: российские ученые наблюдали в 3D особенности развития опухолей
Наука
Солнечная буря сдавила магнитное поле Юпитера «как гигантский мяч для сквоша»
Космос
Анализ крови определяет стадию болезни Альцгеймера с точностью 92%: это поможет подобрать терапию
Наука
ИИ впервые прошел тест Тьюринга: GPT-4.5 обманул людей в 73% случаев
Новости
В Сколтехе нашли способ увеличить емкость суперконденсаторов для электромобилей
Наука
ИИ ускорил поиск дефектов трубопроводов в 30 раз
Новости
Под пирамидами Гизы нашли «скрытый город», но с учеными согласны не все
Наука