В ВШЭ придумали, как отличать тексты, сгенерированные ИИ для ботов

Разработчики заявляют, что метод носит универсальный характер и работает для разных нейросетей. Об исследовании сообщает пресс-служба Высшей школы экономики.

Исследователи из Национального исследовательского университета «Высшая школа экономики» (НИУ ВШЭ) сообщили о создании приложения, которое определяет, был ли текст написан живым человеком или сгенерирован искусственным интеллектом. Технология поможет «ловить» ботов, которые использует разные большие языковые модели и не зависит от совершенствования нейросетей.

Разработчики пока не опубликовали модель и ее описание в открытом доступе или рецензируемых журналах. По сообщению университета, система одновременно использует несколько «следов», основанных на разных математических моделей.

В частности, ученые использовали теорию хаотических динамических систем, топологический анализ данных, теорию размерности, теория кластеризации (четкой и нечеткой) и другие. Хотя боты и нейросети могут имитировать одну или даже несколько характеристик, но «подделать» их все крайне трудно.

Существующие технологии ориентируются на поиск следов конкретных архитектур, например, использования определенной версии ChatGPT. В результате системы не носят универсальный характер и устаревают по мере обновления больших языковых моделей, отмечают в НИУ ВШЭ. Новый подход позволяет обойти эти ограничения.

Подавляющее большинство аналогичных проектов посвящено задаче идентификации конкретных архитектур генеративных языковых моделей (к примеру, ChatGPT). Это приводит к неизбежному устареванию таких наработок по мере развития инструментов генерации текстов и (или) возникновения новых типов ботов.

Василий Громов, профессор департамента анализа данных и искусственного интеллекта факультета компьютерных наук НИУ ВШЭ

Разработчики планируют протестировать свою модель на различных текстах, в том числе, художественных произведениях, написанных нейросетями, и выпускных работах студентов вуза. После этого в следующем году система будет открыта для публичного использования.


Читать далее:

Музею анонимно прислали уникальную находку: что это было

Загляните в сердце в одной из самых опасных пирамид в мире

Посмотрите, как пчелы шлепают муравьев, чтобы защитить свои ульи

На обложке: Изображение от kenshinstock на Freepik, сведения о лицензии

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Астрономы сфотографировали «детство Вселенной» до появления галактик
Космос
Прощальные кадры: лунный модуль сфотографировал закат на Луне
Наука
Гены загадочных предков людей повлияли на работу мозга, показало исследование
Наука
В Петербурге открыли лабораторию для создания компьютеров, которые имитируют работу мозга
Наука
Телескоп «Евклид» показал 26 млн галактик: опубликованы первые результаты миссии
Космос
Крошечных морских животных увеличили в пять раз, чтобы рассмотреть их клетки
Наука
В Сеченовском Университете появится «умная» операционная 
Новости
Операторы связи начали заменять китайское оборудование на российское
Новости
В России хотят обязать использование отечественных процессоров для ИИ
Новости
Посмотрите на первого робота-гуманоида Nvidia в действии
Новости
Образцы с обратной стороны Луны показали, какой она была в прошлом
Космос
Морские интернет-кабели научились «прослушивать» на предмет саботажа
Новости
Нового рекорда на термоядерном синтезе добились в России
Наука
Российские ученые разработали материалы для памяти будущего  
Наука
Выяснилось, какие мутации ДНК ускоряют старение  
Наука
«Суперджет» с российскими двигателями ПД-8 впервые поднялся в воздух
Новости
Светочувствительные нановолокна ускорили рост нейронов  
Наука
ChatGPT может «заболеть» тревожностью и депрессией, но есть способ его «успокоить»  
Новости
Москва сократила выбросы углерода на 190 000 тонн благодаря электробусам  
Новости
Игуаны совершили рекордное путешествие миллионы лет назад: они проплыли по океану 8 000 км
Наука