Сообщить об ошибке на сайте
URL
Ошибка
Обучение машин

Новое исследование ученых из МТИ позволяет пролить свет на то, как нейронные сети обрабатывают информацию и почему предпочитают одни решения другим. Это поможет нам лучше понять, чего ожидать от беспилотных автомобилей и алгоритмов обработки больших данных.

Команда из МТИ хотела понять, как разные нейронные сети, обученные на разных наборах данных, создают собственные механизмы для понимания концепций от простых форм до сложных объектов. Для этого они составили специальный набор изображений, от пейзажей до текстур, и снабдили их аннотациями.

Поскольку ученые точно знали, какое именно действие нейронная сеть выполняет, изучая картинку, они смогли проанализировать, какие именно искусственные нейроны активны в момент распознания изображений. И пришли к выводу, что за отдельные концепции, например, определение пола человека на фотографии, отвечают не группы, а отдельные «нейроны». Это позволяет создать инструмент измерения для понимания любого визуального представления, говорит Дэвид Бау, специалист из МТИ.

По мнению Бау, это можно использовать для измерения необъективности, которая проникла в нейронную сеть вместе с данными, на которых она обучалась. Например, можно подсчитать, что нейроны сети, обученной на наборе данных ImageNet (считающейся стандартом для распознавания изображений), проявляют большую реакцию на собак, чем на кошек, то есть имеются признаки предвзятости.

Это явление можно было наблюдать в эксперименте DeepDream компании Google, когда нейронной сети дали задание выделить формы, которые она видит в случайных изображениях. Сеть, обученная на ImageNet, всюду видела собак, потому что умела распознавать собак лучше, чем что-либо еще.

Способность измерять предвзятость в нейронных сетях может стать критически важной в здравоохранении, где необъективность в алгоритме обучения может перерасти в неверно выбранное лечение, или в сфере автономного транспорта, где ошибка может стать причиной аварии, пишет Quartz.

В том же направлении работают ученые британского Института Алана Тьюринга. Созданный ими фреймворк способен находить необъективность алгоритмов, которые обучались на неполных данных. Протестировав его, они поняли, что ИИ считал чернокожих и латиноамериканцев более склонными к преступным действиям на основании того, что их чаще задерживала полиция.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Автоматизация уничтожит 20-25% рабочих мест в экономике США
Экономическое неравенство
Большинство ученых скрывают исходные данные своих ИИ-исследований
Искусственный интеллект
В Швейцарии токены приравняли к ценным бумагам
ICO
Шотландия может стать лидером в чистой энергетике к 2030 году
Чистая энергия
Экономика будущего
Как государства борются за «цифровых кочевников»
Facebook разоблачит интернет-троллей с помощью почтовых открыток
Кейсы
Waymo получила разрешение на запуск сервиса роботакси в США
Кейсы
Дисплей на коже покажет информацию о состоянии здоровья человека
Гибкая электроника
Павел Дуров собрал $850 млн в ходе предварительного ICO Telegram
ICO
БОД приведет к росту неполной занятости, а не безработицы
Безусловный основной доход
«Вскоре мы не будем редактировать геном — мы просто распечатаем его»
Генетика
Колонизация Марса
NASA возвращается к идее ядерного двигателя для космических кораблей
Tesla построит хранилища электроэнергии Powerpack в Нью-Йорке
Тренды
Play2Live проведет первый киберспортивный турнир с призами в криптовалюте
Блокчейн
Технология от Google определит местоположение звонящего в 911
Идеи
Black Rock предсказывает будущее экономики с помощью больших данных
Идеи
Из стволовых клеток создали вакцину против рака
Борьба с раком
Австралийский биохакер будет защищать права киборгов в суде
Биохакинг
Британская организация предлагает ввести БОД для рабочих
Соцпособия будущего
Идеи
Графеновый фильтр в один шаг очистил воду из Сиднейской бухты
ОАЭ планируют отправить первую миссию на Марс в 2020 году
Космос
«Яндекс» испытал беспилотный автомобиль на улицах Москвы
Кейсы
«Стволовые клетки — это загрузочный диск вашего организма»
Борьба со старением
CRISPR применят для диагностики
Тренды
В Австралии запустили крупнейшую в стране плавучую солнечную станцию
Солнечная энергетика
Квантовая физика
Физики из МТИ открыли новую форму света
Новая 3D-биопечать создает естественную среду для развития тканей
Биотехнологии
Intel создала квантовый компьютер в два кубита на кремниевом чипе
Квантовые компьютеры
Автономный транспорт
В Дубае прошли испытания первых в мире автономных кабин
Eviation обещает выпустить электросамолет к 2021 году
Идеи
Новый вид иммунотерапии поможет справиться с вирусом гриппа
Медицина
К 2020 году Boeing будет выпускать по самолету каждые 10 часов
Кейсы
Генное редактирование поможет бороться с умственной отсталостью
Биотехнологии
Starfighters подготовит первых космических туристов к полетам
Частный космос
Услуги блокчейн-консалтинга на Западе и в России
Блокчейн
Чикаго и Кливленд может соединить линия Hyperloop
Кейсы
Чистая энергия
Термальный резонатор получает энергию из колебаний температуры воздуха
ИИ научился фиксировать землетрясения лучше сейсмологов
Кейсы
Новая технология не позволит 3D-напечатанным стенам обрушиться
Строительная 3D-печать
Тим Кук: «Надеюсь дожить до момента, когда наличные выйдут из оборота»
Мнения
Дрон с жестким крылом EagleRay способен летать и плавать под водой
Дроны в законе
Открыт эффективный вид иммунотерапии рака кишечника
Борьба с раком
Dyson работает над целой линейкой электромобилей
Электромобили
Кейсы
В Сиэтле убрали с улиц камеры для слежки за гражданами
Big Buddy Bike — деревянный электровелосипед с авто-балансировкой
Электровелосипеды
Huawei проведет испытания 5G в Ванкувере
Переход на 5G
Цукерберг может продать акции Facebook на $13 млрд
Благотворительность
Pheramor обещает подобрать идеального партнера по ДНК
Генетика
Сделан новый шаг к созданию вакцины против героина
Медицина будущего