Существующие нейросети, несмотря на высокую точность, нередко проявляют чрезмерную уверенность в своих предсказаниях — особенно при работе с нечеткими, неполными или зашумленными данными. Чтобы решить эту проблему, ученые Центра искусственного интеллекта Сколтеха совместно с Институтом проблем передачи информации РАН предложили методику обучения, которая повышает осознанность решений нейросетей.
Ученые использовали обучающие данные с «мягкими» метками. Вместо традиционного бинарного формата (0 или 1) они ввели непрерывную шкалу от 0 до 1, которая отражает уверенность эксперта в правильности разметки. Такой подход позволяет модели не просто делать предсказание, но и понимать, насколько оно обосновано.
Предложенная методика помогает ИИ выявлять ситуации, в которых требуется вмешательство человека, тем самым снижая риск критических ошибок. Исследователи протестировали систему на реальных задачах, включая медицинскую диагностику, и добились роста точности в оценке неопределенности при классификации и сегментации данных.
«Наш метод помогает нейросети понять, где стоит проявить осторожность», — объясняет Александр Югай, младший инженер-исследователь Сколтеха. Разработка учитывает как эпистемическую неопределенность (связанную с недостаточностью данных), так и алеаторную (вызванную природным шумом и неустранимой вариативностью в информации).
Разработку предлагают использовать для совершенствования медицинских ИИ-систем, систем технического контроля, автоматизированного производства и автономных платформ. Везде, где ошибка может стоить слишком дорого, надежность и способность к самокоррекции становятся критически важными. Результаты работы представили на международной конференции WACV-2025.
Читать далее:
Миллионы «невидимых» людей: ученые нашли ошибку в оценке населения Земли
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Иллюстрация на обложке сгенерирована в ChatGPT