Instruct-версия прошла этап дополнительной настройки (alignment), благодаря которому способна решать конкретные задачи по инструкциям — например, отвечать в заданном формате, классифицировать тексты или генерировать описания.
В компании заявляют, что по результатам международных и адаптированных русскоязычных тестов (MMLU, IFEval, RuFacts), модель сопоставима с китайской Qwen2.5-7B-Instruct и в ряде сценариев превосходит ее. Также по данным Яндекса, в тестировании методом слепого сравнения YandexGPT 5 Lite Instruct выигрывает у Qwen2.5 в 62% случаев и приближается по качеству ответов к GPT-4o Mini.
Как видно, из опубликованных компанией результатов, модель превосходит зарубежные аналоги в основном в тестах, ориентированных на русскоязычный контент, чаще уступая в международных бенчмарках.
YandexGPT 5 Lite включает 8 млрд параметров, поддерживает контекст до 32 тысяч токенов и может работать на обычных ПК — благодаря совместимости с llama.cpp и поддержке формата GGUF.
Для разработчиков и исследователей Instruct-модель доступна бесплатно. Ее можно использовать в любых проектах, если ежемесячный объем не превышает 10 млн токенов. Этого достаточно, чтобы обслуживать чат-ботов на небольших сайтах, анализировать отзывы, генерировать карточки товаров или автоматизировать клиентскую поддержку.
Модель также интегрирована в чат с Алисой: пользователям уже доступно для тестирования до пяти бесплатных запросов в день. Бизнес-клиенты могут подключить модель через API в Yandex Cloud, дообучить под свои задачи и использовать в системах, где важна высокая скорость отклика, например, для голосовых помощников.
Читать далее:
Ученые в тупике: «Уэбб» засек невозможный свет в галактике
Миллионы «невидимых» людей: ученые нашли ошибку в оценке населения Земли
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Иллюстрация на обложке: designed by Freepik, сведения о лицензии