Сообщить об ошибке на сайте
URL
Ошибка
Обучение машин

Новое исследование ученых из МТИ позволяет пролить свет на то, как нейронные сети обрабатывают информацию и почему предпочитают одни решения другим. Это поможет нам лучше понять, чего ожидать от беспилотных автомобилей и алгоритмов обработки больших данных.

Команда из МТИ хотела понять, как разные нейронные сети, обученные на разных наборах данных, создают собственные механизмы для понимания концепций от простых форм до сложных объектов. Для этого они составили специальный набор изображений, от пейзажей до текстур, и снабдили их аннотациями.

Поскольку ученые точно знали, какое именно действие нейронная сеть выполняет, изучая картинку, они смогли проанализировать, какие именно искусственные нейроны активны в момент распознания изображений. И пришли к выводу, что за отдельные концепции, например, определение пола человека на фотографии, отвечают не группы, а отдельные «нейроны». Это позволяет создать инструмент измерения для понимания любого визуального представления, говорит Дэвид Бау, специалист из МТИ.

По мнению Бау, это можно использовать для измерения необъективности, которая проникла в нейронную сеть вместе с данными, на которых она обучалась. Например, можно подсчитать, что нейроны сети, обученной на наборе данных ImageNet (считающейся стандартом для распознавания изображений), проявляют большую реакцию на собак, чем на кошек, то есть имеются признаки предвзятости.

Это явление можно было наблюдать в эксперименте DeepDream компании Google, когда нейронной сети дали задание выделить формы, которые она видит в случайных изображениях. Сеть, обученная на ImageNet, всюду видела собак, потому что умела распознавать собак лучше, чем что-либо еще.

Способность измерять предвзятость в нейронных сетях может стать критически важной в здравоохранении, где необъективность в алгоритме обучения может перерасти в неверно выбранное лечение, или в сфере автономного транспорта, где ошибка может стать причиной аварии, пишет Quartz.

В том же направлении работают ученые британского Института Алана Тьюринга. Созданный ими фреймворк способен находить необъективность алгоритмов, которые обучались на неполных данных. Протестировав его, они поняли, что ИИ считал чернокожих и латиноамериканцев более склонными к преступным действиям на основании того, что их чаще задерживала полиция.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Ученые заглянули в «сознание» нейросети
Искусственный интеллект
Чили становится центром дешевой возобновляемой энергетики
Тренды
Британские спецслужбы оценят риски биткойна
Блокчейн
Китайцы научились обходить запрет на торговлю биткойнами
Блокчейн
ИИ выведет систему образования из кризиса
Тренды
Блокчейн
«Люди берут кредиты, чтобы купить биткойны»
Создана новая технология 3D-печати более прочной и пластичной стали
3D-технологии
Готовимся к ICO. Инструкция, часть 2
ICO
Немецкие ученые разработали стабильный квантовый вентиль из кремния
Квантовые компьютеры
В МТИ разработали прибор, который избавит пациентов от уколов
Медицина будущего
Доказана эффективность лечения рака генно-модифицированными клетками
Борьба с раком
Мнения
Бывший вице-президент Facebook: «Соцсети разобщают людей»
2D-игры помогут выявить опасные наклонности алгоритмов
Идеи
Новый бионический протез управляет каждым пальцем по отдельности
Медицина будущего
Microsoft выпустила язык квантового программирования Q#
Квантовые компьютеры
Первая VTOL-гонка пройдет в 2019 году в австралийской пустыне
Летающие автомобили
Deloitte предсказывает рост киберспорта, цифровых транзакций и AR
Прогнозы
Искусственная ДНК помогает бороться с неизлечимым заболеванием
Биотехнологии
Россия выступила против добычи ископаемых на астероидах
Тренды
Электроника
Открыт новый метод получения электричества
Новая стратегия уничтожения бактерий, вызывающих хронические инфекции
Медицина будущего
Шесть областей, в которых люди уже проиграли ИИ
Обучение машин
В Иннополисе стартовал первый чемпионат DigitalSkills
WorldSkills
Прогнозы
Люди-киборги, миссия на Марс и ужасы ИИ: прогнозы от Илона Маска
Найдены доказательства существования новой формы материи
Научные открытия
Deutsche Bank: «Крах биткойна — один из главных рисков 2018 года»
Криптовалюты
Shell и GE передают управление в руки алгоритмов
Автоматизация
Honda CB4 Interceptor — мотоцикл, использующий энергию ветра
Идеи
Индия переживает бум чатботов-психологов
Чатботы
Тренды
Новый вид 3D-печати за секунды создает объекты с помощью голограмм
Граждане США могут навсегда лишиться цифровой приватности
Приватность
Германия установит рекорд в ветровой энергетике в 2017 году
Чистая энергия
Биотех-компания набивает татуировки с ДНК близкого человека
Биотехнологии
Британия планирует стать раем для космических стартапов
Космические планы
Илон Маск: «Tesla разрабатывает лучший в мире ИИ для беспилотников»
Беспилотные технологии
Искусственный интеллект
Ученые вставили мозг червя в робота Arduino
Электричество поможет диагностировать рак
Борьба с раком
Сэм Альтман: «Люди вошли в стадию коэволюции с ИИ»
Искусственный интеллект
Созданы самые надежные перовскитовые фотоэлементы с КПД 19%
Солнечная энергетика
Эксперт Ford: «Автомобили будут отдавать бесплатно в обмен на данные»
Мнения
ИИ изучил автоматизацию и пришел к выводу, что она не угрожает людям
Тренды
«Биткойн выдержит апокалипсис»
Блокчейн
В США стартовали первые торги биткойн-фьючерсами
Блокчейн
«Люди достигли пределов биологических возможностей»
Мнения
Надувная орбитальная станция Bigelow увеличилась в объемах в 15 раз
Космические планы
Швейцарские банки: «Лучшие дни биткойна еще впереди»
Биткойн
У детей из богатых семей в 10 раз больше шансов стать изобретателями
Социальные инновации
Франция одобрила блокчейн для торговли ценными бумагами
Финтех
Железо
Процессор Titan V превратит любой ПК в суперкомпьютер