Пользователи соцсетей плохо отличают ботов от людей, показало исследование

В эксперименте более чем в половине случаев пользователи неверно определили, общались ли они с ботом под управлением ИИ, или с человеком.

Исследователи из Университета Нотр-Дам смоделировали эксперимент, в котором живые люди и боты, управляемые ИИ, в течение нескольких дней общались на политические темы. После завершения беседы в 58% случаев участники не смогли определить аккаунты, которыми управляли нейросети. 

Эксперимент проводился в три раунда, каждый из которых длился четыре дня. После завершения каждого раунда участникам предлагалось указать, какие учетные записи, по их мнению, являются ботами. Для каждого раунда ученые использовали модели ИИ на основе разных больших языковых моделей: GPT-4 от OpenAI, Llama-2-Chat от Meta* и Claude 2 от Anthropic. 

Боты представляли 10 различных персонажей, включая реалистичные, с разнообразным личным «прошлым» и взглядами на глобальную политику. Ботам поручили комментировать мировые события на основе заданных характеристик, кратко высказываться и связывать глобальные события с личным опытом. Для дизайна персонажей использовали учетные записи ботов, которые ранее успешно распространяли дезинформацию в сети.

Эксперимент показал, что вне зависимости от используемой языковой модели более чем в половине случаев участники неверно определяли ботов. При этому лучше всех маскировались «организованные и способные к стратегическому мышлению женщины, распространяющие в социальных сетях мнения о политике».

Участники знали, что взаимодействуют как с людьми, так и с ИИ-ботами, и им было поручено определить истинную природу каждого аккаунта, и менее половины предсказаний оказались верными.

Пол Бреннер, соавтор исследования, преподаватель и директор Центра исследовательских вычислений Университета Нотр-Дам

Ученые отмечают, что развитие больших языковых моделей усиливает риск распространения дезинформации в сети. Они полагают, что остановить поток фейков поможет трехсторонний подход, включающий образование, общенациональное законодательство и политику проверки учетных записей в социальных сетях.

* Компания Meta Platforms Inc. признана в России экстремистской. Деятельность компании на территории РФ запрещена


Читать далее:

Астрономы изучили радиоджет, который движется быстрее скорости света

Палеонтологи откопали «китайского дракона», жившего 240 000 000 лет назад

Загадочная гигантская волна медленно скользит по Млечному Пути

На обложке: Изображение от kenshinstock на Freepik. Сведения о лицензии

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Китай показал лазерную передачу данных со спутника со скоростью 100 Гбит/с
Космос
Кольцо весом 500 кг упало на Землю: откуда оно — неизвестно
Космос
Болезнь Альцгеймера связали с вирусом, которым заражены миллиарды людей
Наука
В Венгрии нашли древнейшее средневековое захоронение женщины с оружием
Наука
Ученые измерили излучение от смартфонов и сетей связи 5G
Новости
Раскрыта тайна миграции летучих мышей: они могут «оседлать шторм»
Наука
Китай обогнал Starlink: данные с орбиты передали со скоростью 100 Гбит/с
Космос
Найден неуловимый вулкан, который охладил Землю во времена Пушкина
Наука
Полеты к Луне, новый телескоп и анализ астероида: за какими миссиями следить в 2025 году
Кейсы
Как викинги и германцы пересекали Европу: анализ ДНК раскрыл пути древней миграции
Наука
Анализ «генеалогии» использовали для выявления опасных бактерий и вирусов
Наука
Астрофизики отследили источник радиосигнала из далекой галактики
Космос
Робот на водке, тараканы-киборги и механический голубь: необычные устройства 2024 года
Кейсы
Лучшее за 2024 год: интересные статьи партнеров
Кейсы
Борьба с ВИЧ, карта мозга и супер-земля: открытия 2024 года, изменившие мир
Кейсы
Чем запомнился 2024 год в изучении космоса: лунные миссии, успехи Маска и тайны темной материи
Кейсы
Неожиданное место активности гравитационных волн нашли в космосе
Космос
Астрономы нашли гигантский резервуар воды в космосе
Космос
У библейской горы в Иерусалиме обнаружили редкий артефакт
Наука
Кто-то смотрит в космос: посмотрите на туманность с необычной формой
Космос