Сообщить об ошибке на сайте
URL
Ошибка
Обучение машин

Новое исследование ученых из МТИ позволяет пролить свет на то, как нейронные сети обрабатывают информацию и почему предпочитают одни решения другим. Это поможет нам лучше понять, чего ожидать от беспилотных автомобилей и алгоритмов обработки больших данных.

Команда из МТИ хотела понять, как разные нейронные сети, обученные на разных наборах данных, создают собственные механизмы для понимания концепций от простых форм до сложных объектов. Для этого они составили специальный набор изображений, от пейзажей до текстур, и снабдили их аннотациями.

Поскольку ученые точно знали, какое именно действие нейронная сеть выполняет, изучая картинку, они смогли проанализировать, какие именно искусственные нейроны активны в момент распознания изображений. И пришли к выводу, что за отдельные концепции, например, определение пола человека на фотографии, отвечают не группы, а отдельные «нейроны». Это позволяет создать инструмент измерения для понимания любого визуального представления, говорит Дэвид Бау, специалист из МТИ.

По мнению Бау, это можно использовать для измерения необъективности, которая проникла в нейронную сеть вместе с данными, на которых она обучалась. Например, можно подсчитать, что нейроны сети, обученной на наборе данных ImageNet (считающейся стандартом для распознавания изображений), проявляют большую реакцию на собак, чем на кошек, то есть имеются признаки предвзятости.

Это явление можно было наблюдать в эксперименте DeepDream компании Google, когда нейронной сети дали задание выделить формы, которые она видит в случайных изображениях. Сеть, обученная на ImageNet, всюду видела собак, потому что умела распознавать собак лучше, чем что-либо еще.

Способность измерять предвзятость в нейронных сетях может стать критически важной в здравоохранении, где необъективность в алгоритме обучения может перерасти в неверно выбранное лечение, или в сфере автономного транспорта, где ошибка может стать причиной аварии, пишет Quartz.

В том же направлении работают ученые британского Института Алана Тьюринга. Созданный ими фреймворк способен находить необъективность алгоритмов, которые обучались на неполных данных. Протестировав его, они поняли, что ИИ считал чернокожих и латиноамериканцев более склонными к преступным действиям на основании того, что их чаще задерживала полиция.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Посмотрите, как выглядит обожаемый всеми инженерами робот София
Доброжелательные роботы
Искусственные интеллекты тоже не смогли решить, что звучит на записи — «Янни» или «Лорел»
Искусственный интеллект
Кейсы
Астрономы нашли еще одно подтверждение наличия девятой планеты в Солнечной системе
Томские ученые представили сенсоры на основе органических молекул
Тренды
The Boring Company Илона Маска доставит огнеметы первым покупателям уже в начале лета
Кейсы
Инженеры собрали тактильного робота — его кожа может покрываться мурашками
Доброжелательные роботы
Билет в электробус The Boring Company Илона Маска будет стоить всего $1
Тренды
Константин Носков возглавит новое министерство цифрового развития, связи и массовых коммуникаций
Тренды
Китайские ученые создали из картона наноматериал для очищения воды от тяжелых металлов
Экология
Давид Ян запустил сервис «умной» корпоративной аналитики Yva
Кейсы
В китайской школе используют систему распознавания лиц для слежки за отвлекающимися учениками
Кейсы
Apple запатентовала технологию распознавания человека по узору вен на лице
Распознавание лиц
солнечные батареи
Nissan представил собственную солнечную крышу
Инженеры выяснили, что роботы могут действовать совместно даже без создания специальных алгоритмов
Доброжелательные роботы
Давление в протоне оказалось выше, чем в нейтронной звезде
Идеи
Нейросеть научилась понимать, какой трек станет хитом этого лета
Кейсы
Инженеры представили камеру, с помощью которой можно мгновенно создать 3D-модель человека
Тренды
Робот в смартфоне: почему главным конкурентным преимуществом для чат-ботов станет эмоциональность
Мнения
Саратовские ученые создали аппарат, который сравнивает показатели здорового и больного сердца
Биотехнологии
Сверхтехнологичный военный конвертоплан совершил свой первый полет. Пока как самолет
Тренды
Из чего состоит вселенная
Астрономы нашли огромную черную дыру, которая поглощает по три звезды в неделю
Гендиректор Uber Дара Хосровшахи — о будущем, в котором автомобили будут летать
Тренды
FAQ: что такое ячеистые сети и как их применяют в умных домах?
Тренды
Хакеры могут захватить управление поездом, просто взломав сеть Wi-Fi
Киберпреступники
НАСА обнаружила водяные гейзеры на спутнике Юпитера — Европе
Есть ли жизнь на Марсе
Биологи создали биосовместимые импланты, которые смогут растворяться в организме
Биотехнологии
Кейсы
Сотрудники увольняются из Google — они не хотят делать искусственный интеллект для военных дронов Пентагона
Ведущие инженеры Google и Facebook расскажут в Москве о компьютерном зрении и машинном обучении
Компьютерное зрение
Посмотрите, каких роботов привезли разработчики на конференцию TechCrunch
Доброжелательные роботы
В России появятся автоматы по продаже сим-карт
Тренды
SpaceX запустила самую мощную свою ракету-носитель — Falcon 9 Block 5
Тренды
Facebook разрабатывает собственную криптовалюту
ICO
Тренды
НАСА показала, как магнитное поле Земли защищает планету от солнечного ветра
Море волнуется раз: как умнеет «морской бизнес» и где будущее уже наступило
Идеи
Хакеры смогли управлять сервисами Siri и Alexa с помощью неслышных для человека звуков
Тренды
Инженеры разработали метаматериал, заставляющий звуковые волны огибать объект
Тренды
Доброжелательные роботы
Boston Dynamics показала своего бегающего робота Атлас
Ярослав Холодов — о математике транспортных потоков, борьбе с пробками и транспорте будущего
Тренды
Посмотрите, как выглядит практически достроенный туннель Boring Company
Технологический прорыв
В Иннополисе откроется федеральный центр робототехники и мехатроники
Иннополис
Apple начала удалять приложения, которые передают данные о местоположении третьим лицам
Кейсы
Нейросеть сибирских ученых позволит медикам автоматизировать диагностику рака
Лекарство от рака
Кейсы
Ученые НАСА пришли к выводу, что лунный грунт опасен для клеток млекопитающих
Uber показал обновленную концепцию своего летающего такси
Летающее такси
В России прошли первые крупные испытания беспилотных автомобилей
Беспилотные автомобили
Компания Prisma Labs представила систему синхронизации AR-объектов на разных устройствах
Дополненная реальность
Ученые показали с помощью анимации, как вирус ВИЧ убивает клетки
Визуализация данных
Власти Калифорнии обяжут жителей устанавливать солнечные батареи на свои дома
солнечные батареи
Красноярские школьники собрали электронный логический конструктор для изучения информатики
Кейсы