Ученые выяснили, как ИИ принимает решения

Крис Гримм из Брауновского университета (США, входит в Лигу плюща) создал систему, которая определяет, на какие части изображения "смотрит" компьютер, оснащенный искусственным интеллектом, когда принимает ключевые решения, пишет New Scientist.

Ученый создал параллельную систему ИИ, которая заменяет некоторые части изображения «белым шумом». Если компьютер после этого изменит свое решение, — значит, удаленный кусок был для него важным.

Гримм протестировал свое изобретение на алгоритме, который сортировал изображения по десяти категориям (в основном, там были животные: птицы, олени, лошади и так далее). Выяснилось, что компьютер разбивает изображение объекта на части, а затем пытается найти самую важную из них. Например, в случае с лошадьми, ИИ сначала сосредоточился на ногах животного, а потом стал искать ее голову, причем там, где, по его мнению, она должна находится, допуская, что лошадь может смотреть в разные стороны. Тот же подход был применен к оленям, но в этом случае компьютер искал не голову, а рога.

10 предсказаний писателей-фантастов, которые сбылись

Кажется, ИИ действительно принимает решения, концентрируясь лишь на части изображения, игнорируя все вокруг. С одной стороны, это увеличивает скорость обработки информации. С другой, оставляет большое пространство для ошибочных решений. Так, Гримм использовал свою систему в компьютерной игре, симулирующей настольный теннис. Компьютер обращал внимание только на то место, где находилась ракетка. Стоило ее переместить в другое место, и ИИ начинал «думать», что «смотрит» на шарик.

Когда это касается таких безобидных вещей, как компьютерные игры, то ошибки ИИ не страшны. Но если его используют для диагностики рака, цена ошибки возрастает в разы. Не менее серьезная проблема — обучение автопилота, который должен оценивать расстояние до объекта на дороге. «Если мы не понимаем, почему ИИ делает смешные ошибки, мы должны дважды подумать, прежде, чем доверять ему свою жизнь, например, садясь в беспилотный автомобиль», — говорит Гримм.

По словам Гримма, его система позволяет увидеть, «смотрит» ли ИИ на правильную часть изображения, когда принимает решения. Изобретение оценили в Google. «Система Гримма — удобный инструмент для „дебаггинга“ ИИ, которым может воспользоваться человек», — говорит исследователь компании Думитру Эрхан.

«Через 20-30 лет в США перестанут использовать секс для размножения»

Общение человека с ИИ — главная тема исследования, опубликованного компаниями DeepMind (принадлежит Google) и OpenAI (финансируется Илоном Маском). Ученые предложили способ обеспечения обратной связи компьютера с человеком без помощи заранее прописанного программистами алгоритма.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Трагедию с Xiaomi на автопилоте начали расследовать в Китае
Новости
Посмотрите, как выглядит самый быстрый пассажирский самолет в мире
Новости
Странная форма материи меняет планеты: как она повлияет на Землю
Космос
Новые фотодиоды в 10 раз чувствительнее аналогов: они пригодятся в медицине
Наука
В России создадут региональный совет по дронам: зачем он нужен
Новости
Государство компенсирует бизнесу 20% затрат на роботов: как работает система
Новости
Разработан маршрутизатор для фотонов: он объединит квантовые компьютеры в единую сеть
Наука
ИИ обнаружил два новых гена, которые влияют на риск ишемического инсульта
Наука
Создание изображений в стиле Ghibli привело к рекордной нагрузке на ChatGPT
Новости
Физики МГУ оценили потенциал фотонных процессоров для нейросетей
Новости
Телескоп НАСА для изучения ранней Вселенной сделал первые снимки
Космос
Путин подписал закон против кибермошенничества: что изменится для россиян
Новости
Генератор изображений OpenAI теперь доступен бесплатно, но с ограничениями  
Новости
Apple готовит iOS 19: какие iPhone не получится обновить  
Новости
ЦЕРН представил проект нового коллайдера: что известно прямо сейчас
Наука
На «Госуслугах» запустили сервис для проверки сим-карт: как он работает  
Новости
В России введут маркировку электроники: это изменится для покупателей
Новости
Разработан мозговой имплант, который переводит мысли в речь почти мгновенно
Новости
«Хаббл» зафиксировал драматические сезонные изменения в атмосфере Урана
Космос
Физики МГУ придумали, как ускорить память компьютера терагерцовым излучением
Новости