Исследователи из Университета Нотр-Дам обнаружили, что боты с искусственным интеллектом (ИИ) могут обходить защитные алгоритмы популярных социальных сетей. Стажеры с образованием на уровне средней школы и минимальной подготовкой по использованию ИИ запустили тестовых ботов на разных площадках.

Исследователи попытались создать и запустить ботов на разных платформах — LinkedIn, Reddit, TikTok, X (бывший Twitter), Mastodon, а также Facebook*, Instagram* и Threads* от Meta*, чтобы проверить эффективность политик и механизмов защиты сетей от автоматически генерируемого контента. Для создания ботов использовали Selenium — набор инструментов для автоматизации действий веб-браузеров, а также модели GPT-4o и DALL-E 3 от OpenAI.

В серии экспериментов исследователи опубликовали безобидные «тестовые» посты от имени ботов на всех платформах. Наиболее сложными для обхода оказались системы защиты Meta*, где потребовалось несколько попыток для запуска бота. Трудности также возникли с TikTok — из-за частого использования CAPTCHA. Однако на Reddit, Mastodon и X запустить ботов оказалось совсем просто, несмотря на заявленные политики безопасности.

Иллюстрация результатов исследования: красным отмечены сети, в которых не было никаких проблем, зеленым — сети, которые использовали защиту для автопостов, но их удалось обойти. Галочка показывает платформы, которые хотя бы раз успешно идентифицировали ботов. Изображение: University of Notre Dame

Исследование демонстрирует проблему безопасности в социальных сетях, заявляют ученые. Хотя некоторые боты используются в законных целях, например для маркетинга или обслуживания клиентов, другие могут применяться для манипулирования общественным мнением, распространения дезинформации или мошенничества.

Неспособность платформ эффективно выявлять и блокировать потенциально вредоносных ботов ставит под угрозу безопасность пользователей. Исследователи призывают к введению более строгого законодательства, требующего от платформ четко идентифицировать аккаунты людей и ботов, а также к разработке решений для защиты от злонамеренного использования ИИ в социальных сетях.

* Компания Meta Platforms Inc. признана в России экстремистской. Деятельность компании и принадлежащих ей социальных сетей Facebook и Instagram на территории РФ запрещена

Читать далее:

Решение загадки физики трех тел уже близко: что выяснили ученые

«Уэбб» нашел первую в истории планету из пара: она недалеко от Земли

Физики поняли, где искать таинственную пятую силу природы

_{На обложке: Изображение от xb100 на Freepik, сведения о лицензии}

Боты с ИИ легко обходят защитные системы социальных сетей, показало исследование