Банк совместно с учёными МГУ разрабатывает модель, которая будет следить за ответами других нейросетей, чтобы исключать галлюцинации и нарушающие этику рекомендации.
ВТБ совместно с исследователями МГУ работает над ИИ-моделью, которая проверяет ответы других нейросетей, используемых в банковских цифровых сервисах. Об этом «Ведомостям» сообщил зампред правления банка Вадим Кулик.
Новая система должна выявлять галлюцинации — фактологические ошибки — и отслеживать, чтобы ответы соответствовали этическим нормам.
Таким образом банк планирует снизить риски неверной или сомнительной информации, которую могут выдавать используемые им нейросети.
ВТБ уже применяет несколько больших языковых моделей (LLM) в своих сервисах, но точные платформы и поставщики не раскрываются.
Ранее, в 2021 году, банк сотрудничал с «Яндексом»: тогда голосовой ассистент ВТБ интегрировали в Алису.
Проект демонстрирует, что финансовые организации начинают заботиться не только о внедрении ИИ, но и о его безопасной и корректной работе, контролируя ответы виртуальных помощников.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: freepik
