Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Исследователям удалось разработать фреймворк, который помогает идентифицировать необъективность и предвзятость алгоритма. Это особенно важно в тех случаях, когда ИИ применяется для принятия решений — в суде при вынесении приговора или в банке при одобрении кредита.

Машинное обучение все чаще используется для принятия важных решений. В некоторых штатах США судьи выносят приговоры и определяют условия освобождения под залог, используя алгоритмы, которые вычисляют вероятность того, что человек совершит повторное преступление. Другие алгоритмы определяют, следует ли одобрить человеку кредит или пригласить на собеседование, пишет New Scientist.

Но зачастую непонятно, как алгоритм пришел к тому или иному выводу, а потому неясно, можно ли говорить о справедливости. Всегда есть вероятность, что он обучался на выборке данных, которая не была полной. А потому исследователи стали поднимать проблему расизма и предубеждений искусственного интеллекта.

Исследователи из Института Алана Тьюринга в Лондоне разработали фреймворк, который поможет идентифицировать необъективность алгоритма. Расовые и гендерные признаки нельзя игнорировать, но они должны рассматриваться в комплексе с другими факторами, а не определять решение.

Им уже удалось успешно протестировать свою разработку — оказалось, что чаще всего полицейские останавливают чернокожих мужчин и латиноамериканцев, а потому алгоритм именно их считал более склонными к преступности. Однако, статистика показывает, что уровень преступности не зависит от цвета кожи. С помощью нового метода можно будет, к примеру, распределять в городе полицейские патрули, не боясь быть обвиненными в расовых предубеждениях и дискриминации.

Летом прошлого года заключенный Эрик Лумис подал иск в Верховный суд штата Висконсин с требованием пересмотреть использование алгоритма для вынесения судебных решений, обвинив его в предвзятости. Эксперты сходятся во мнении, что алгоритмы должны быть объективными. Для этого в том числе предлагается сделать их открытыми.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
«Технология CRISPR позволит избежать голода в будущем»
Сельское хозяйство
Бывший глава ФРС Бен Бернанке: «Курс биткойна рухнет»
Криптовалюты
Искусственная поджелудочная с помощью ИИ борется с диабетом
Медицина будущего
В Британии запустят крупнейшую фабрику хранения энергии
Хранение энергии
Google X начала тестировать доставку еды и медикаментов в Австралии
Дроны-курьеры
В МТИ нашли способ снизить стоимость опреснения воды
Чистая вода
Общественное питание
Кимбал Маск: «Производство еды ожидают беспрецедентные инновации»
Verizon запустит первую коммерческую сеть 5G в 2019 году
Переход на 5G
Технологии оказали самое большое влияние на жизнь граждан США
Мнения
Южная Корея обложит криптовалюты налогами
Тренды
Фермы в контейнерах защитят урожай от ураганов
Агроинновации
JPMorgan создаст платежную сеть на блокчейне
Блокчейн
Транспорт будущего
В Пекине запускают первую маглев-линию
Toyota выпустит говорящие и чувствующие беспилотники к 2020 году
Беспилотные автомобили
«В первую очередь, мы изучали компетенции будущего Future Skills»
Кейсы
Соцсети блокируют реальность
Тренды
IoT совершит революцию в сельском хозяйстве
Интернет вещей
На майнинг одного биткойна уходит энергии, как на целый дом за месяц
Криптовалюты
Iron Ox «изобретает» автоматизированное сельское хозяйство
Еда будущего
6 сценариев техноапокалипсиса
Мнения
Идеи
ИИ от Google превзошел людей в обучении ИИ
Космические планы
Ионный двигатель NASA доставит человека на Марс за две недели
Raspberry Pi-Top — модульный ноутбук для начинающих программистов
Тренды
Новый процесс 3D-печати подходит для всех типов спекаемых металлов
3D-технологии
Открытый исходный код сделает протезы доступными и дешевыми
Медицина будущего
«Первое время я толком не понимала, что такое World Skills»
Тренды
В Норвегии могут ввести разовый налог на электромобили
Электромобили
Биохакер учит людей самостоятельно менять свою ДНК
Биоредактирование
Авиация
Spike испытала прототип сверхзвукового пассажирского самолета
«ИИ станет использовать людей как ботов для выполнения своих задач»
Искусственный интеллект
Yamaha представила Motoroid — концепт мотоцикла с ИИ
Электромотоциклы
Власти США одобрили использование робота-хирурга
Медицинские роботы
«Криптовалюты избавят людей от уплаты банковских комиссий»
Криптовалюты
Маск: «Наш корабль сядет на Марс даже при отказе части двигателей»
Космос
«Электрические самолеты появятся не ранее, чем через 15-20 лет»
Мнения
Ураганы привели к буму домашних систем хранения энергии в США
Тренды
Открыт новый метод измерения спинового тока в квантовых материалах
Научные разработки
Shell выкупила крупнейшую европейскую сеть электрозаправок
Электротранспорт
Автономный робот STAR удалил опухоль лучше хирургов
Медицинские роботы
Криптовалюты
В России точно появится крипторубль
К 2019 году Baidu начнет массовое производство автономных автомобилей
Беспилотные автомобили
На World Skills выступит рекордное количество участников из России
Тренды
Финтех
IBM запускает международные блокчейн-платежи
С Gluon создавать нейронные сети будет так же просто, как приложения
Нейронные сети
«Великобритания может возглавить ИИ-революцию»
Искусственный интеллект
Илон Маск признался, что владеет двумя бензиновыми автомобилями
Кейсы
В США строят крупнейшую виртуальную солнечную электростанцию
Чистая энергетика
Virgin Hyperloop One вернет людям радость путешествий
Транспорт будущего
В Исландии запускают станцию, которая превращает СО2 в камень
Чистая энергетика