Компания OpenAI объявила о запуске системы цифровой маркировки текстового контента в Европейском союзе для выполнения требований нового закона об искусственном интеллекте. Об этом сообщает «Хайтек» со ссылкой на блог OpenAI.
Разработчики интегрировали скрытые водяные знаки непосредственно в математическую модель генерации текста, слегка корректируя вероятность выбора следующих слов. Новая технология не влияет на итоговое качество ответов и скорость работы нейросети, что подтверждают внутренние тесты на флагманской модели Astra. Жители стран Евросоюза начнут получать промаркированные тексты автоматически в ближайшие недели, а коммерческие клиенты API по всему миру могут активировать эту функцию в настройках личного кабинета уже сейчас.
Инженеры признают серьезные технологические ограничения текущего метода детекции. Эффективность обнаружения скрытых меток падает с 95% до 80% при сокращении объема текста с 400 до 200 токенов, а в точных дисциплинах вроде математики точность падает еще сильнее из-за жестких рамок в выборе терминов. Кроме того, обычная замена 25% слов на синонимы или ручной перевод на другой язык снижают считываемость водяного знака до критических 17%. Из-за нестабильных результатов компания пока ограничила доступ к детектору лжи и выдает его только проверенным академическим организациям.
Обложка: magnific
