Исследователи из Университета Нотр-Дам обнаружили, что боты с искусственным интеллектом (ИИ) могут обходить защитные алгоритмы популярных социальных сетей. Стажеры с образованием на уровне средней школы и минимальной подготовкой по использованию ИИ запустили тестовых ботов на разных площадках.
Исследователи попытались создать и запустить ботов на разных платформах — LinkedIn, Reddit, TikTok, X (бывший Twitter), Mastodon, а также Facebook*, Instagram* и Threads* от Meta*, чтобы проверить эффективность политик и механизмов защиты сетей от автоматически генерируемого контента. Для создания ботов использовали Selenium — набор инструментов для автоматизации действий веб-браузеров, а также модели GPT-4o и DALL-E 3 от OpenAI.
В серии экспериментов исследователи опубликовали безобидные «тестовые» посты от имени ботов на всех платформах. Наиболее сложными для обхода оказались системы защиты Meta*, где потребовалось несколько попыток для запуска бота. Трудности также возникли с TikTok — из-за частого использования CAPTCHA. Однако на Reddit, Mastodon и X запустить ботов оказалось совсем просто, несмотря на заявленные политики безопасности.
Исследование демонстрирует проблему безопасности в социальных сетях, заявляют ученые. Хотя некоторые боты используются в законных целях, например для маркетинга или обслуживания клиентов, другие могут применяться для манипулирования общественным мнением, распространения дезинформации или мошенничества.
Неспособность платформ эффективно выявлять и блокировать потенциально вредоносных ботов ставит под угрозу безопасность пользователей. Исследователи призывают к введению более строгого законодательства, требующего от платформ четко идентифицировать аккаунты людей и ботов, а также к разработке решений для защиты от злонамеренного использования ИИ в социальных сетях.
* Компания Meta Platforms Inc. признана в России экстремистской. Деятельность компании и принадлежащих ей социальных сетей Facebook и Instagram на территории РФ запрещена
Читать далее:
Решение загадки физики трех тел уже близко: что выяснили ученые
«Уэбб» нашел первую в истории планету из пара: она недалеко от Земли
Физики поняли, где искать таинственную пятую силу природы
На обложке: Изображение от xb100 на Freepik, сведения о лицензии