Ученые выяснили, как ИИ принимает решения

Крис Гримм из Брауновского университета (США, входит в Лигу плюща) создал систему, которая определяет, на какие части изображения "смотрит" компьютер, оснащенный искусственным интеллектом, когда принимает ключевые решения, пишет New Scientist.

Ученый создал параллельную систему ИИ, которая заменяет некоторые части изображения «белым шумом». Если компьютер после этого изменит свое решение, — значит, удаленный кусок был для него важным.

Гримм протестировал свое изобретение на алгоритме, который сортировал изображения по десяти категориям (в основном, там были животные: птицы, олени, лошади и так далее). Выяснилось, что компьютер разбивает изображение объекта на части, а затем пытается найти самую важную из них. Например, в случае с лошадьми, ИИ сначала сосредоточился на ногах животного, а потом стал искать ее голову, причем там, где, по его мнению, она должна находится, допуская, что лошадь может смотреть в разные стороны. Тот же подход был применен к оленям, но в этом случае компьютер искал не голову, а рога.

10 предсказаний писателей-фантастов, которые сбылись

Кажется, ИИ действительно принимает решения, концентрируясь лишь на части изображения, игнорируя все вокруг. С одной стороны, это увеличивает скорость обработки информации. С другой, оставляет большое пространство для ошибочных решений. Так, Гримм использовал свою систему в компьютерной игре, симулирующей настольный теннис. Компьютер обращал внимание только на то место, где находилась ракетка. Стоило ее переместить в другое место, и ИИ начинал «думать», что «смотрит» на шарик.

Когда это касается таких безобидных вещей, как компьютерные игры, то ошибки ИИ не страшны. Но если его используют для диагностики рака, цена ошибки возрастает в разы. Не менее серьезная проблема — обучение автопилота, который должен оценивать расстояние до объекта на дороге. «Если мы не понимаем, почему ИИ делает смешные ошибки, мы должны дважды подумать, прежде, чем доверять ему свою жизнь, например, садясь в беспилотный автомобиль», — говорит Гримм.

По словам Гримма, его система позволяет увидеть, «смотрит» ли ИИ на правильную часть изображения, когда принимает решения. Изобретение оценили в Google. «Система Гримма — удобный инструмент для „дебаггинга“ ИИ, которым может воспользоваться человек», — говорит исследователь компании Думитру Эрхан.

«Через 20-30 лет в США перестанут использовать секс для размножения»

Общение человека с ИИ — главная тема исследования, опубликованного компаниями DeepMind (принадлежит Google) и OpenAI (финансируется Илоном Маском). Ученые предложили способ обеспечения обратной связи компьютера с человеком без помощи заранее прописанного программистами алгоритма.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Загадочную аномалию наблюдали в соседней галактики: ее спутники нацелились в сторону Млечного Пути
Космос
Альтернативная теория объясняет взрывы килоновых и образование урана
Космос
Яндекс Браузер научили дублировать видео, сохраняя интонации спикера
Новости
В Китае разработали крошечных роботов-трансформеров: они могут ехать и летать
Новости
Российские компании подписали этический кодекс для безопасного использования ИИ в медицине
Новости
Анализ крови находит ранние признаки рака и оценивает эффективность лечения
Наука
Белый хакер: что это за профессия и сколько платят?
Мнения
Управление рисками ИИ в программной инженерии
Мнения
Названы качества идеального партнера: что ценят женщины и мужчины
Новости
Российский алгоритм для анализа белков обогнал зарубежные аналоги по скорости и точности
Новости
России к 2030 году понадобятся миллионы специалистов по ИИ
Новости
Американки массово вшивают «лифчик» прямо в грудь: как работает технология
Новости
Темные фабрики: будущее промышленности без человека
Мнения
Астрономы открыли рекордно далекую от звезды суперземлю
Космос
Датские ученые омолодили стволовые клетки, изменив их «диету»
Наука
Биологи описали стратегии любви у мышей: защищаться или «странствовать»
Наука
Якутские инженеры создали боевого «Скорпиона» для битвы роботов
Новости
Количество DDoS-атак удвоилось в первом квартале 2025 года
Новости
Сдвиг поверхности земли при землетрясении зафиксировали из космоса
Космос
Не так уж жарко: выяснилось, какая погода была на Марсе в прошлом
Космос