В ВШЭ придумали, как отличать тексты, сгенерированные ИИ для ботов

Разработчики заявляют, что метод носит универсальный характер и работает для разных нейросетей. Об исследовании сообщает пресс-служба Высшей школы экономики.

Исследователи из Национального исследовательского университета «Высшая школа экономики» (НИУ ВШЭ) сообщили о создании приложения, которое определяет, был ли текст написан живым человеком или сгенерирован искусственным интеллектом. Технология поможет «ловить» ботов, которые использует разные большие языковые модели и не зависит от совершенствования нейросетей.

Разработчики пока не опубликовали модель и ее описание в открытом доступе или рецензируемых журналах. По сообщению университета, система одновременно использует несколько «следов», основанных на разных математических моделей.

В частности, ученые использовали теорию хаотических динамических систем, топологический анализ данных, теорию размерности, теория кластеризации (четкой и нечеткой) и другие. Хотя боты и нейросети могут имитировать одну или даже несколько характеристик, но «подделать» их все крайне трудно.

Существующие технологии ориентируются на поиск следов конкретных архитектур, например, использования определенной версии ChatGPT. В результате системы не носят универсальный характер и устаревают по мере обновления больших языковых моделей, отмечают в НИУ ВШЭ. Новый подход позволяет обойти эти ограничения.

Подавляющее большинство аналогичных проектов посвящено задаче идентификации конкретных архитектур генеративных языковых моделей (к примеру, ChatGPT). Это приводит к неизбежному устареванию таких наработок по мере развития инструментов генерации текстов и (или) возникновения новых типов ботов.

Василий Громов, профессор департамента анализа данных и искусственного интеллекта факультета компьютерных наук НИУ ВШЭ

Разработчики планируют протестировать свою модель на различных текстах, в том числе, художественных произведениях, написанных нейросетями, и выпускных работах студентов вуза. После этого в следующем году система будет открыта для публичного использования.


Читать далее:

Музею анонимно прислали уникальную находку: что это было

Загляните в сердце в одной из самых опасных пирамид в мире

Посмотрите, как пчелы шлепают муравьев, чтобы защитить свои ульи

На обложке: Изображение от kenshinstock на Freepik, сведения о лицензии

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
ИИ восстановил имя автора свитка, который пережил последний день Помпеи
Наука
Частный лунный модуль вышел на орбиту спутника после двух месяцев полета
Космос
Предок тираннозавра «иммигрировал» в Америку из Азии, считают ученые
Наука
Обновленный Gemini 2.5 Pro от Google возглавил рейтинг ИИ для разработчиков
Новости
Ученые решили проблему, которая мешала запуску термоядерных реакторов почти 70 лет
Наука
Китайское «супероружие» для подводных диверсий оказалось не таким, как считалось
Новости
Отключение мобильного интернета в Москве: какие последствия для бизнеса
Новости
Киберполиция назвала новые схемы мошенников: как они воруют аккаунты на «Госуслугах»
Новости
Хокинг предсказал гибель Земли: оказалось, НАСА сочло угрозу реальной
Наука
Создатель Ethereum признал свои ошибки и решил изменить криптовалюту
Новости
«Ред ОС 8» заработала на Arm-платформах — теперь и на «Байкале»
Новости
Компания Цукерберга использовала уязвимость подростков для рекламы
Новости
Старая модель не работает: ученые ищут новые объяснения устройства Вселенной
Космос
Пыльцевая буря накрыла центр России: что это и как защититься аллергикам
Наука
3400-летние артефакты загадочного племени нашли на вершине потухшего вулкана в Венгрии
Наука
На 3D-принтере напечатали электрод, который работает эффективнее ЭЭГ
Наука
Древесная стружка и ветки: открыт необычный способ мумификации с удивительной эффективностью
Наука
Физики MIT наблюдали квантовые взаимодействия между атомами
Наука
В Перми предложили способ очистки побережья от последствий разлива нефти
Наука
«Уэбб» заглянул сквозь дымку, окутывающую популярные и загадочные экзопланеты
Космос