Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Исследователям удалось разработать фреймворк, который помогает идентифицировать необъективность и предвзятость алгоритма. Это особенно важно в тех случаях, когда ИИ применяется для принятия решений — в суде при вынесении приговора или в банке при одобрении кредита.

Машинное обучение все чаще используется для принятия важных решений. В некоторых штатах США судьи выносят приговоры и определяют условия освобождения под залог, используя алгоритмы, которые вычисляют вероятность того, что человек совершит повторное преступление. Другие алгоритмы определяют, следует ли одобрить человеку кредит или пригласить на собеседование, пишет New Scientist.

Но зачастую непонятно, как алгоритм пришел к тому или иному выводу, а потому неясно, можно ли говорить о справедливости. Всегда есть вероятность, что он обучался на выборке данных, которая не была полной. А потому исследователи стали поднимать проблему расизма и предубеждений искусственного интеллекта.

Исследователи из Института Алана Тьюринга в Лондоне разработали фреймворк, который поможет идентифицировать необъективность алгоритма. Расовые и гендерные признаки нельзя игнорировать, но они должны рассматриваться в комплексе с другими факторами, а не определять решение.

Им уже удалось успешно протестировать свою разработку — оказалось, что чаще всего полицейские останавливают чернокожих мужчин и латиноамериканцев, а потому алгоритм именно их считал более склонными к преступности. Однако, статистика показывает, что уровень преступности не зависит от цвета кожи. С помощью нового метода можно будет, к примеру, распределять в городе полицейские патрули, не боясь быть обвиненными в расовых предубеждениях и дискриминации.

Летом прошлого года заключенный Эрик Лумис подал иск в Верховный суд штата Висконсин с требованием пересмотреть использование алгоритма для вынесения судебных решений, обвинив его в предвзятости. Эксперты сходятся во мнении, что алгоритмы должны быть объективными. Для этого в том числе предлагается сделать их открытыми.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Новый вид 3D-печати за секунды создает объекты с помощью голограмм
Тренды
Граждане США могут навсегда лишиться цифровой приватности
Приватность
Биотех-компания набивает татуировки с ДНК близкого человека
Биотехнологии
Британия планирует стать раем для космических стартапов
Космические планы
Искусственный интеллект
Ученые вставили мозг червя в робота Arduino
Электричество поможет диагностировать рак
Борьба с раком
Созданы самые надежные перовскитовые фотоэлементы с КПД 19%
Солнечная энергетика
Эксперт Ford: «Автомобили будут отдавать бесплатно в обмен на данные»
Мнения
ИИ изучил автоматизацию и пришел к выводу, что она не угрожает людям
Тренды
«Биткойн выдержит апокалипсис»
Блокчейн
В США стартовали первые торги биткойн-фьючерсами
Блокчейн
«Люди достигли пределов биологических возможностей»
Мнения
Космические планы
Надувная орбитальная станция Bigelow увеличилась в объемах в 15 раз
Швейцарские банки: «Лучшие дни биткойна еще впереди»
Биткойн
У детей из богатых семей в 10 раз больше шансов стать изобретателями
Социальные инновации
Франция одобрила блокчейн для торговли ценными бумагами
Финтех
Процессор Titan V превратит любой ПК в суперкомпьютер
Железо
Создан новый вид металлического стекла
Новые материалы
Квантовые технологии
Создана квантовая версия жизни
«Китай сравняется или даже превзойдет США в развитии ИИ»
Искусственный интеллект
Разработана версия CRISPR, не требующая разрезания ДНК
Идеи
SpaceX впервые повторно использует и ракету, и космический корабль
Идеи
Сооснователь Yahoo: «Биткойн еще сыграет важную роль в обществе»
Блокчейн
Honda представит роботизированный квадроцикл и еще трех новых роботов
Робототехника
Чехол смартфона превратили в глюкометр
Лечение диабета
Идеи
Beyond Meat увеличит производство искусственного мяса в три раза
Разработан двумерный транзистор на бумажной основе
Электронная бумага
Clova — виртуальный помощник, понимающий все нюансы японского языка
Кейсы
ВЭФ назвал скуку одним из главных рисков автоматизации
Тренды
Найден источник метана в океане — это микробы
Научные открытия
Зарплаты блокчейн-специалистов в Швейцарии выросли до $180 тысяч в год
ICO
Глава Boeing пообещал раньше Маска отправить человека на Марс
Миссия на Марс
Квантовые компьютеры
«Квантовые компьютеры страшнее ядерного оружия»
Bank of America запатентовал автоматический обменник криптовалют
Криптовалюты
Доказана эффективность генной терапии в борьбе с болезнями мозга
Генная терапия
Hilton оборудует номера в своих отелях системами умного дома
Умный дом
Skypod — робот-кладовщик, взбирающийся на полки
Промышленные роботы
«Генное программирование станет новой инженерной дисциплиной»
Генная инженерия
Европейские энергокомпании станут углеродно-нейтральными к 2050 году
Тренды
Солнечная энергия
Создан солнечный элемент по рецептам Теслы и Эйнштейна
«ИИ оставит программистов без работы к 2040 году»
Искусственный интеллект
Пациентам датской больницы напечатают еду с учетом предписаний врача
3D-печать
Видеоигры предотвращают старческое слабоумие
Исследования мозга
ИИ помогает ловить серийных убийц
Идеи
Lyft начинает испытания робомобилей от NuTonomy
Беспилотные автомобили
Let Glass — первые умные очки с поддержкой Alexa
Умные очки
Идеи
Синтезирован «гормон любви» без побочных эффектов
Новая технология позволяет видеть сквозь любые стены
Кейсы
Amazon запатентовала ИИ-консультанта для садоводов-любителей
Кейсы