Руководитель блока поисковых сервисов и ИИ «Яндекса» Дмитрий Масюк рассказал, почему нейросети продолжают выдавать выдуманные ответы, и пояснил, что полностью убрать такие ошибки невозможно.
В интервью Радио РБК Дмитрий Масюк прокомментировал пример, который стал вирусным: пользователи спросили у «Алисы» о «свиных крылышках», и нейросеть без сомнений выдала рецепт. По словам Масюка, такие случаи выглядят как выдумка, но на самом деле модель опирается на реальные материалы, найденные в интернете.
Он объяснил, что в сети действительно есть статьи, где описаны «рецепты свиных крылышек». Это не делает ответ корректным, но показывает, что ИИ не придумал его с нуля. Масюк добавил, что добиться полного отсутствия подобных «галлюцинаций» невозможно — любая нейросеть работает со сложными и неоднородными данными.
Масюк рассказал, как устраняют ошибки в «Алисе». На этапе дообучения нейросеть «наказывают» за неточные ответы и заставляют сильнее опираться на источники. Всего в обучении три ступени: сначала модель получает очищенную выборку интернета, затем — сотни тысяч отредактированных вопросов и ответов, а на финальном этапе отдельная «нейросеть-судья» оценивает работу основной.
По словам Масюка, несмотря на отдельные странные ответы, пользователи не воспринимают подобные недочёты как серьёзную проблему. Он отметил, что люди хотят одновременно фактов и более живого общения — и нейросети пытаются сочетать эти ожидания.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: коллаж «Хайтек». Фото: javi-indy | вставка «Хайтек»
