Сообщить об ошибке на сайте
URL
Ошибка
Обучение машин

Новое исследование ученых из МТИ позволяет пролить свет на то, как нейронные сети обрабатывают информацию и почему предпочитают одни решения другим. Это поможет нам лучше понять, чего ожидать от беспилотных автомобилей и алгоритмов обработки больших данных.

Команда из МТИ хотела понять, как разные нейронные сети, обученные на разных наборах данных, создают собственные механизмы для понимания концепций от простых форм до сложных объектов. Для этого они составили специальный набор изображений, от пейзажей до текстур, и снабдили их аннотациями.

Поскольку ученые точно знали, какое именно действие нейронная сеть выполняет, изучая картинку, они смогли проанализировать, какие именно искусственные нейроны активны в момент распознания изображений. И пришли к выводу, что за отдельные концепции, например, определение пола человека на фотографии, отвечают не группы, а отдельные «нейроны». Это позволяет создать инструмент измерения для понимания любого визуального представления, говорит Дэвид Бау, специалист из МТИ.

По мнению Бау, это можно использовать для измерения необъективности, которая проникла в нейронную сеть вместе с данными, на которых она обучалась. Например, можно подсчитать, что нейроны сети, обученной на наборе данных ImageNet (считающейся стандартом для распознавания изображений), проявляют большую реакцию на собак, чем на кошек, то есть имеются признаки предвзятости.

Это явление можно было наблюдать в эксперименте DeepDream компании Google, когда нейронной сети дали задание выделить формы, которые она видит в случайных изображениях. Сеть, обученная на ImageNet, всюду видела собак, потому что умела распознавать собак лучше, чем что-либо еще.

Способность измерять предвзятость в нейронных сетях может стать критически важной в здравоохранении, где необъективность в алгоритме обучения может перерасти в неверно выбранное лечение, или в сфере автономного транспорта, где ошибка может стать причиной аварии, пишет Quartz.

В том же направлении работают ученые британского Института Алана Тьюринга. Созданный ими фреймворк способен находить необъективность алгоритмов, которые обучались на неполных данных. Протестировав его, они поняли, что ИИ считал чернокожих и латиноамериканцев более склонными к преступным действиям на основании того, что их чаще задерживала полиция.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
«Технология CRISPR позволит избежать голода в будущем»
Сельское хозяйство
Бывший глава ФРС Бен Бернанке: «Курс биткойна рухнет»
Криптовалюты
Искусственная поджелудочная с помощью ИИ борется с диабетом
Медицина будущего
В Британии запустят крупнейшую фабрику хранения энергии
Хранение энергии
Google X начала тестировать доставку еды и медикаментов в Австралии
Дроны-курьеры
В МТИ нашли способ снизить стоимость опреснения воды
Чистая вода
Общественное питание
Кимбал Маск: «Производство еды ожидают беспрецедентные инновации»
Verizon запустит первую коммерческую сеть 5G в 2019 году
Переход на 5G
Технологии оказали самое большое влияние на жизнь граждан США
Мнения
Южная Корея обложит криптовалюты налогами
Тренды
Фермы в контейнерах защитят урожай от ураганов
Агроинновации
JPMorgan создаст платежную сеть на блокчейне
Блокчейн
Транспорт будущего
В Пекине запускают первую маглев-линию
Toyota выпустит говорящие и чувствующие беспилотники к 2020 году
Беспилотные автомобили
«В первую очередь, мы изучали компетенции будущего Future Skills»
Кейсы
Соцсети блокируют реальность
Тренды
IoT совершит революцию в сельском хозяйстве
Интернет вещей
На майнинг одного биткойна уходит энергии, как на целый дом за месяц
Криптовалюты
Iron Ox «изобретает» автоматизированное сельское хозяйство
Еда будущего
6 сценариев техноапокалипсиса
Мнения
Идеи
ИИ от Google превзошел людей в обучении ИИ
Космические планы
Ионный двигатель NASA доставит человека на Марс за две недели
Raspberry Pi-Top — модульный ноутбук для начинающих программистов
Тренды
Новый процесс 3D-печати подходит для всех типов спекаемых металлов
3D-технологии
Открытый исходный код сделает протезы доступными и дешевыми
Медицина будущего
«Первое время я толком не понимала, что такое World Skills»
Тренды
В Норвегии могут ввести разовый налог на электромобили
Электромобили
Биохакер учит людей самостоятельно менять свою ДНК
Биоредактирование
Авиация
Spike испытала прототип сверхзвукового пассажирского самолета
«ИИ станет использовать людей как ботов для выполнения своих задач»
Искусственный интеллект
Yamaha представила Motoroid — концепт мотоцикла с ИИ
Электромотоциклы
Власти США одобрили использование робота-хирурга
Медицинские роботы
«Криптовалюты избавят людей от уплаты банковских комиссий»
Криптовалюты
Маск: «Наш корабль сядет на Марс даже при отказе части двигателей»
Космос
«Электрические самолеты появятся не ранее, чем через 15-20 лет»
Мнения
Ураганы привели к буму домашних систем хранения энергии в США
Тренды
Открыт новый метод измерения спинового тока в квантовых материалах
Научные разработки
Shell выкупила крупнейшую европейскую сеть электрозаправок
Электротранспорт
Автономный робот STAR удалил опухоль лучше хирургов
Медицинские роботы
Криптовалюты
В России точно появится крипторубль
К 2019 году Baidu начнет массовое производство автономных автомобилей
Беспилотные автомобили
На World Skills выступит рекордное количество участников из России
Тренды
Финтех
IBM запускает международные блокчейн-платежи
С Gluon создавать нейронные сети будет так же просто, как приложения
Нейронные сети
«Великобритания может возглавить ИИ-революцию»
Искусственный интеллект
Илон Маск признался, что владеет двумя бензиновыми автомобилями
Кейсы
В США строят крупнейшую виртуальную солнечную электростанцию
Чистая энергетика
Virgin Hyperloop One вернет людям радость путешествий
Транспорт будущего
В Исландии запускают станцию, которая превращает СО2 в камень
Чистая энергетика