Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Крис Гримм из Брауновского университета (США, входит в Лигу плюща) создал систему, которая определяет, на какие части изображения «смотрит» компьютер, оснащенный искусственным интеллектом, когда принимает ключевые решения, пишет New Scientist.

Ученый создал параллельную систему ИИ, которая заменяет некоторые части изображения «белым шумом». Если компьютер после этого изменит свое решение, — значит, удаленный кусок был для него важным.

Гримм протестировал свое изобретение на алгоритме, который сортировал изображения по десяти категориям (в основном, там были животные: птицы, олени, лошади и так далее). Выяснилось, что компьютер разбивает изображение объекта на части, а затем пытается найти самую важную из них. Например, в случае с лошадьми, ИИ сначала сосредоточился на ногах животного, а потом стал искать ее голову, причем там, где, по его мнению, она должна находится, допуская, что лошадь может смотреть в разные стороны. Тот же подход был применен к оленям, но в этом случае компьютер искал не голову, а рога.

Кажется, ИИ действительно принимает решения, концентрируясь лишь на части изображения, игнорируя все вокруг. С одной стороны, это увеличивает скорость обработки информации. С другой, оставляет большое пространство для ошибочных решений. Так, Гримм использовал свою систему в компьютерной игре, симулирующей настольный теннис. Компьютер обращал внимание только на то место, где находилась ракетка. Стоило ее переместить в другое место, и ИИ начинал «думать», что «смотрит» на шарик.

Когда это касается таких безобидных вещей, как компьютерные игры, то ошибки ИИ не страшны. Но если его используют для диагностики рака, цена ошибки возрастает в разы. Не менее серьезная проблема — обучение автопилота, который должен оценивать расстояние до объекта на дороге. «Если мы не понимаем, почему ИИ делает смешные ошибки, мы должны дважды подумать, прежде, чем доверять ему свою жизнь, например, садясь в беспилотный автомобиль», — говорит Гримм.

По словам Гримма, его система позволяет увидеть, «смотрит» ли ИИ на правильную часть изображения, когда принимает решения. Изобретение оценили в Google. «Система Гримма — удобный инструмент для „дебаггинга“ ИИ, которым может воспользоваться человек», — говорит исследователь компании Думитру Эрхан.

Общение человека с ИИ — главная тема исследования, опубликованного компаниями DeepMind (принадлежит Google) и OpenAI (финансируется Илоном Маском). Ученые предложили способ обеспечения обратной связи компьютера с человеком без помощи заранее прописанного программистами алгоритма.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

SpaceX запустила спутники, которые будут изучать гравитационное поле Земли
Тренды
Марк Цукерберг рассказал европейским парламентариям о работе Facebook
Утечка личных данных пользователей Facebook
В России могут запретить Booking.com
Блокировка интернета
Ученые придумали лекарство, которое предотвратит потерю памяти у космических путешественников
Тренды
Мнения
Пять книг, которые Билл Гейтс рекомендует прочитать этим летом
Вспышки сверхновых миллионы лет назад подтолкнули эволюцию на Земле
Как развивалась Вселенная
Лекарства из принтера и испытания на роботах: как новые технологии изменили фарму
Тренды
Илон Маск предсказал возможное банкротство Tesla из-за дешевых Model 3
Тренды
Российские ученые предлагают назвать следующий открытый элемент Антарктидием
Тренды
НАСА создаст в космосе температуру, ниже самой холодной во Вселенной
Тренды
Контейнеры, гибриды и туман: 5 трендов в облачных технологиях
Тренды
Facebook в 2019 году начнет вводить проект беспроводного интернета по всему миру
Технологический рывок
Роботы построили самый маленький дом в мире — размером с кончик волоса
Тренды
Идеи
Ученые выяснили, почему при высокой температуре запускается иммунитет и происходит выздоровление
Инвестор Виталий Голомб — об искусственном мясе и том, почему не нужно получать патенты
Тренды
Первая плавучая атомная электростанция «Ломоносов» завершила свой первый выход в море
Тренды
Посмотрите, как выглядит обожаемый всеми инженерами робот София
Доброжелательные роботы
Искусственные интеллекты тоже не смогли решить, что звучит на записи — «Янни» или «Лорел»
Искусственный интеллект
Кейсы
Астрономы нашли еще одно подтверждение наличия девятой планеты в Солнечной системе
Томские ученые представили сенсоры на основе органических молекул
Тренды
The Boring Company Илона Маска доставит огнеметы первым покупателям уже в начале лета
Кейсы
Инженеры собрали тактильного робота — его кожа может покрываться мурашками
Доброжелательные роботы
Билет в электробус The Boring Company Илона Маска будет стоить всего $1
Тренды
Тренды
Константин Носков возглавит новое министерство цифрового развития, связи и массовых коммуникаций
Китайские ученые создали из картона наноматериал для очищения воды от тяжелых металлов
Экология
Давид Ян запустил сервис «умной» корпоративной аналитики Yva
Кейсы
В китайской школе используют систему распознавания лиц для слежки за отвлекающимися учениками
Кейсы
Apple запатентовала технологию распознавания человека по узору вен на лице
Распознавание лиц
Nissan представил собственную солнечную крышу
солнечные батареи
Инженеры выяснили, что роботы могут действовать совместно даже без создания специальных алгоритмов
Доброжелательные роботы
Идеи
Давление в протоне оказалось выше, чем в нейтронной звезде
Нейросеть научилась понимать, какой трек станет хитом этого лета
Кейсы
Инженеры представили камеру, с помощью которой можно мгновенно создать 3D-модель человека
Тренды
Робот в смартфоне: почему главным конкурентным преимуществом для чат-ботов станет эмоциональность
Мнения
Саратовские ученые создали аппарат, который сравнивает показатели здорового и больного сердца
Биотехнологии
Тренды
Сверхтехнологичный военный конвертоплан совершил свой первый полет. Пока как самолет
Астрономы нашли огромную черную дыру, которая поглощает по три звезды в неделю
Из чего состоит вселенная
Гендиректор Uber Дара Хосровшахи — о будущем, в котором автомобили будут летать
Тренды
FAQ: что такое ячеистые сети и как их применяют в умных домах?
Тренды
Хакеры могут захватить управление поездом, просто взломав сеть Wi-Fi
Киберпреступники
НАСА обнаружила водяные гейзеры на спутнике Юпитера — Европе
Есть ли жизнь на Марсе
Биологи создали биосовместимые импланты, которые смогут растворяться в организме
Биотехнологии
Кейсы
Сотрудники увольняются из Google — они не хотят делать искусственный интеллект для военных дронов Пентагона
Ведущие инженеры Google и Facebook расскажут в Москве о компьютерном зрении и машинном обучении
Компьютерное зрение
Посмотрите, каких роботов привезли разработчики на конференцию TechCrunch
Доброжелательные роботы
В России появятся автоматы по продаже сим-карт
Тренды
SpaceX запустила самую мощную свою ракету-носитель — Falcon 9 Block 5
Тренды
Facebook разрабатывает собственную криптовалюту
ICO
НАСА показала, как магнитное поле Земли защищает планету от солнечного ветра
Тренды