Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Исследователям удалось разработать фреймворк, который помогает идентифицировать необъективность и предвзятость алгоритма. Это особенно важно в тех случаях, когда ИИ применяется для принятия решений — в суде при вынесении приговора или в банке при одобрении кредита.

Машинное обучение все чаще используется для принятия важных решений. В некоторых штатах США судьи выносят приговоры и определяют условия освобождения под залог, используя алгоритмы, которые вычисляют вероятность того, что человек совершит повторное преступление. Другие алгоритмы определяют, следует ли одобрить человеку кредит или пригласить на собеседование, пишет New Scientist.

Но зачастую непонятно, как алгоритм пришел к тому или иному выводу, а потому неясно, можно ли говорить о справедливости. Всегда есть вероятность, что он обучался на выборке данных, которая не была полной. А потому исследователи стали поднимать проблему расизма и предубеждений искусственного интеллекта.

Исследователи из Института Алана Тьюринга в Лондоне разработали фреймворк, который поможет идентифицировать необъективность алгоритма. Расовые и гендерные признаки нельзя игнорировать, но они должны рассматриваться в комплексе с другими факторами, а не определять решение.

Им уже удалось успешно протестировать свою разработку — оказалось, что чаще всего полицейские останавливают чернокожих мужчин и латиноамериканцев, а потому алгоритм именно их считал более склонными к преступности. Однако, статистика показывает, что уровень преступности не зависит от цвета кожи. С помощью нового метода можно будет, к примеру, распределять в городе полицейские патрули, не боясь быть обвиненными в расовых предубеждениях и дискриминации.

Летом прошлого года заключенный Эрик Лумис подал иск в Верховный суд штата Висконсин с требованием пересмотреть использование алгоритма для вынесения судебных решений, обвинив его в предвзятости. Эксперты сходятся во мнении, что алгоритмы должны быть объективными. Для этого в том числе предлагается сделать их открытыми.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Центробанк Швеции обеспокоен стремительным отказом от наличных
Кейсы
QIWI запускает краудфандинговую платформу Fundl
Кейсы
«Криптовалюты не угрожают финансовой системе»
Блокчейн
Венесуэла начала предпродажу национальной криптовалюты Petro
Блокчейн
Volkswagen показал концепт электрического робомобиля без руля
Кейсы
Патенты
Samsung запатентовала летающий дисплей, управляемый глазами
Домашняя камера слежения за $20 обзавелась ИИ
Умный дом
Найдена причина нарушения квантовых свойств отдельных атомов
Квантовые технологии
RoadBotics — ИИ-система для отслеживания качества дорог
Искусственный интеллект
Профессии будущего
6 профессий будущего на основе прогнозов ВЭФ
Скорость зарядки литий-ионных батарей можно увеличить в 5 раз
Аккумуляторы
Разработан сверхатомный двухмерный полупроводник
Новые материалы
Alibaba разработала ИИ-систему мониторинга за свиньями
Кейсы
«Роботы Boston Dynamics слишком несовершенны, чтобы их бояться»
Кейсы
Ученые пролили свет на биологию индивидуальности
Идеи
Всемирная продовольственная программа переходит на блокчейн
Блокчейн
Еда будущего
Компания Just выводит на рынок мясо из пробирки
«Смертоносный» белок позволяет редактировать ДНК и РНК одновременно
Редактирование генома
«Секвенирование генома сегодня похоже на интернет 1980-х»
Секвенирование генома
Tesla построит в Канаде электросеть на основе энергии ветра
Идеи
Автоматизация уничтожит 20-25% рабочих мест в экономике США
Экономическое неравенство
Большинство работающих россиян поддерживают идею БОДа
Соцпособия будущего
Исследования мозга
Ученые выяснили, почему мозг суперэйджеров остается молодым
Большинство ученых скрывают исходные данные своих ИИ-исследований
Искусственный интеллект
В Швейцарии токены приравняли к ценным бумагам
ICO
Виталик Бутерин: «Криптовалюты в любой момент могут обесцениться»
Криптовалюты
Как государства борются за «цифровых кочевников»
Экономика будущего
Шотландия может стать лидером в чистой энергетике к 2030 году
Чистая энергия
Facebook разоблачит интернет-троллей с помощью почтовых открыток
Кейсы
Waymo получила разрешение на запуск сервиса роботакси в США
Кейсы
Дисплей на коже покажет информацию о состоянии здоровья человека
Гибкая электроника
Илону Маску разрешили построить станцию Hyperloop в Вашингтоне
Транспорт будущего
Павел Дуров собрал $850 млн в ходе предварительного ICO Telegram
ICO
БОД приведет к росту неполной занятости, а не безработицы
Безусловный основной доход
Колонизация Марса
NASA возвращается к идее ядерного двигателя для космических кораблей
«Вскоре мы не будем редактировать геном — мы просто распечатаем его»
Генетика
Tesla построит хранилища электроэнергии Powerpack в Нью-Йорке
Тренды
Play2Live проведет первый киберспортивный турнир с призами в криптовалюте
Блокчейн
Технология от Google определит местоположение звонящего в 911
Идеи
Идеи
Black Rock предсказывает будущее экономики с помощью больших данных
Из стволовых клеток создали вакцину против рака
Борьба с раком
Австралийский биохакер будет защищать права киборгов в суде
Биохакинг
Британская организация предлагает ввести БОД для рабочих
Соцпособия будущего
Идеи
Графеновый фильтр в один шаг очистил воду из Сиднейской бухты
ОАЭ планируют отправить первую миссию на Марс в 2020 году
Космос
«Яндекс» испытал беспилотный автомобиль на улицах Москвы
Кейсы
«Стволовые клетки — это загрузочный диск вашего организма»
Борьба со старением
CRISPR применят для диагностики
Тренды
В Австралии запустили крупнейшую в стране плавучую солнечную станцию
Солнечная энергетика