Сообщить об ошибке на сайте
URL
Ошибка
Обучение машин

Новое исследование ученых из МТИ позволяет пролить свет на то, как нейронные сети обрабатывают информацию и почему предпочитают одни решения другим. Это поможет нам лучше понять, чего ожидать от беспилотных автомобилей и алгоритмов обработки больших данных.

Команда из МТИ хотела понять, как разные нейронные сети, обученные на разных наборах данных, создают собственные механизмы для понимания концепций от простых форм до сложных объектов. Для этого они составили специальный набор изображений, от пейзажей до текстур, и снабдили их аннотациями.

Поскольку ученые точно знали, какое именно действие нейронная сеть выполняет, изучая картинку, они смогли проанализировать, какие именно искусственные нейроны активны в момент распознания изображений. И пришли к выводу, что за отдельные концепции, например, определение пола человека на фотографии, отвечают не группы, а отдельные «нейроны». Это позволяет создать инструмент измерения для понимания любого визуального представления, говорит Дэвид Бау, специалист из МТИ.

По мнению Бау, это можно использовать для измерения необъективности, которая проникла в нейронную сеть вместе с данными, на которых она обучалась. Например, можно подсчитать, что нейроны сети, обученной на наборе данных ImageNet (считающейся стандартом для распознавания изображений), проявляют большую реакцию на собак, чем на кошек, то есть имеются признаки предвзятости.

Это явление можно было наблюдать в эксперименте DeepDream компании Google, когда нейронной сети дали задание выделить формы, которые она видит в случайных изображениях. Сеть, обученная на ImageNet, всюду видела собак, потому что умела распознавать собак лучше, чем что-либо еще.

Способность измерять предвзятость в нейронных сетях может стать критически важной в здравоохранении, где необъективность в алгоритме обучения может перерасти в неверно выбранное лечение, или в сфере автономного транспорта, где ошибка может стать причиной аварии, пишет Quartz.

В том же направлении работают ученые британского Института Алана Тьюринга. Созданный ими фреймворк способен находить необъективность алгоритмов, которые обучались на неполных данных. Протестировав его, они поняли, что ИИ считал чернокожих и латиноамериканцев более склонными к преступным действиям на основании того, что их чаще задерживала полиция.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Sony поможет новичкам разрабатывать ИИ
Искусственный интеллект
Газировка станет источником графена
Графен
«ИИ станет двигателем четвертой технологической революции»
Кейсы
Консервированные стволовые клетки остановят старение
Терапия старения
Стартап Made in Space напечатал радиационный щит прямо на борту МКС
Обитаемый космос
Комиссия по ценным бумагам и биржам США будет регулировать ICO
Криптовалюты
Тренды
Все, что нужно знать про биткойн
Берлинский финтех-стартап помог европейцам инвестировать €4 млрд
Финансовые стартапы
Правительство Австралии установит контроль над обменниками криптовалют
Криптовалюты
Изобретена резина, которая не боится проколов
Новые материалы
Разработан метод стирания страшных воспоминаний
Идеи
Тайвань просит Tesla построить на острове хранилище энергии
Хранение энергии
Военные дроны
Оружейная компания установила на квадрокоптер пулемет
США установили рекорд по числу проданных роботов
Кейсы
Автомобили будущего
Toyota запатентовала невидимые боковые стойки
Солнечные стеклоблоки обещают революцию в строительстве
Идеи
В Казани пройдет IoT World Summit Russia 2017
Тренды
Hyundai представила водородный кроссовер нового поколения
Электромобили
Микроботы с антибиотиками вылечили желудочную инфекцию
Идеи
Nikola Motor займется солнечными панелями в подражание Tesla
Тренды
Fiat Chrysler вошел в консорциум по разработке робомобилей
Беспилотный транспорт
На орбите Земли появятся биткоин-спутники
Биткоины
Ричард Брэнсон: «Государства способны платить людям БОД»
Мнения
Идеи
Гидропонная ферма выращивает 54 тонны томатов в неделю
Китай отказался от строительства угольных электростанций на 150 ГВт
Кейсы
iPhone сможет проводить экскурсии в AR
Тренды
Разработчики приложений для Alexa начнут получать за них деньги
Кейсы
Pelecoin теперь позволяет майнить сразу несколько криптовалют
Криптовалюты
В Швейцарии начнут продавать бургеры из насекомых
Еда будущего
Электромотоциклы
Концерн «Калашников» представил электромотоцикл для полиции
Почему в Японии не боятся роботов, отнимающих рабочие места
Роботизация
Рынок хранения электроэнергии в США вырастет в десять раз к 2020 году
Хранение энергии
На Google Home появились бесплатные звонки по США и Канаде
Тренды
Ученые повысили точность анализа крови на наличие рака
Борьба с раком
Ford представил электрический фургон для DHL
Кейсы
Waymo запатентовала автомобиль с кнопкой вместо руля
Беспилотные автомобили
Гибкий ионистор заменит батареи в фитнес-браслетах
Новые материалы
«Биткойн мог бы стать мировой резервной валютой, но не станет»
Криптовалюты
Пекинский стартап выпустил программируемого робота-гексопода
Робототехника
Чистая энергия
Энергетические стартапы в США продают электромобили по цене Lada Vesta
«Роботы разрушат социум бедных стран и вызовут волну миграции»
Образование будущего
«Квантовый интернет появится к 2030 году»
Мнения
Идеи
Соцсеть на блокчейне платит пользователям за посты
Страховая компания раздаст клиентам смартчасы Apple
Тренды
Tesla установит в домах розетки для электромобилей
Тренды
Стартап создаст самый большой «зеленый» дата-центр в мире
Идеи
RFID-метки сделают дешевле технологии умного города
Умный город
Оксфордские ученые открыли новый метод 3D-печати живых тканей
Идеи
Новая камера оснастит 3D-зрением смартфоны и робомобили
Виртуальная реальность
Эндрю Ын запускает ИИ-фонд на $150 млн
Искусственный интеллект
Изобретен материал, который охлаждает себя сам
Материалы будущего
Samsung запатентовал Galaxy Note со встроенным алкотестером
Тренды
Российская компания показала испытания беспилотного комбайна
Беспилотный транспорт