Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Специалисты по компьютерным наукам изучили работу популярного алгоритма для прогнозирования случаев рецидивов, через который прошло более 1 млн американских подсудимых. Эксперты попросили фрилансеров с онлайн-платформы Mechanical Turk представить свои прогнозы в тех же судебных случаях и сравнили результаты. Оказалось, что ИИ оценивает криминальные риски на уровне обывателей и даже уступает им в точности предсказаний.

Алгоритм Compas, разработанный компанией Equivant (в прошлом Northpointe), используется в США с 1998 года. Программа анализирует данные подсудимых и решает, можно ли отпустить преступника под залог или лучше оставить его под стражей, а также помогает судьям определить меру пресечения в зависимости от степени риска. При оценке дел система учитывает возраст, пол и уголовное прошлое подсудимых. Как пишет The Guardian, за 20 лет алгоритм провел оценку более 1 млн человек.

Специалисты по компьютерным наукам из Дартмутского колледжа (США) решили проверить, насколько можно доверять прогнозам Compas. Для этого они сравнили точность предсказаний алгоритма с точностью предсказаний обычных людей без юридического образования. Участников эксперимента набрали на бирже фрилансеров Mechanical Turk, пользователи которой выполняют небольшие задачи для заказчиков.

В эксперименте эксперты использовали базу данных 7000 подсудимых из округа Броуард, штат Флорида, которые проходили оценку Compas. Алгоритм строил прогноз на основе демографических данных, информации о поле, возрасте и уголовном прошлом.

Фрилансерам для вынесения решения предоставили только короткую справку, в которой были указаны возраст, пол и прошлые судимости. Таким образом, ИИ располагал набором данных из 137 пунктов, а люди — из 7. Чтобы проверить точность предсказаний, эксперты использовали досье арестов в последующие два года после заключения. В результате точность прогноза составила 67% у фрилансеров и 65% у алгоритма Compas.

Анализ также показал, что алгоритм ошибочно присуждает риск рецидивизма чернокожим заключенным чаще, чем белым. Ранее организация ProPublica проанализировала те же 7000 судебных случаев и обнаружила, что чернокожим правонарушителям алгоритм чаще присуждает средний и высокий показатель риска.

«Цена ошибки в данном случае очень высока, поэтому всерьез стоит задуматься, можно ли вообще применять этот алгоритм для принятия судебных решений», — заметил Анри Фарид, автор исследования, опубликованного в журнале Science Advances.

Исследование также помогло понять, какая логика стоит за вынесением решений Compas. Оказалось, что работа алгоритма — это простейшие вычисления, в которых решающую роль играет возраст подсудимого и количество арестов в прошлом. Чем меньше возраст и чем больше арестов, тем больше риск, считает система. Эксперты признали технологию не слишком впечатляющей.

Впрочем, некоторые специалисты отмечают, что алгоритм не просто решает, отпустить подсудимого под залог или оставить под стражей. Программа дает подробную оценку рисков и выявляет уязвимые стороны преступников. Например, рекомендует человеку обратиться в центр по борьбе с наркозависимостью сразу после выхода на свободу.

В 2016 году американец Эрик Лумис подал иск в Верховный суд штата Висконсин с требованием пересмотреть использование алгоритма Compas для вынесения судебных решений. По мнению Лумиса, система работает некорректно и выносит решения предвзято. Американца приговорили к 6 годам заключения после попытки скрыться от полиции на машине, задействованной в одном из преступлений. Однако Верховный суд не встал на сторону Лумиса и заключил, что такое решение в отношении американца было бы принято даже без использования алгоритма.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Британские инженеры предлагают питать поезда солнечной энергией
Энергия солнца
Samsung разработала человекоподобного робота Saram
Роботехника
В Лондоне общественный транспорт можно будет вызвать, как такси
Идеи
Майкл Пенс призвал упростить выдачу лицензий на космические запуски
Частный космос
Daimler запустит производство тяжелой электрофуры eActros в 2021 году
Электротранспорт
AT&T назвала города США, в которых сеть 5G появится уже в 2018 году
Переход на 5G
Интернет вещей
ARM интегрировала новый формат SIM-карты сразу в мобильный процессор
Создан терапевтический гель против рака
Борьба с раком
Разработан мемтранзистор — гибрид мемристора и транзистора
Микроэлектроника
Космические планы
Запуск интернет-спутников от SpaceX переносится на неопределенный срок
«Умная» куртка использует ИИ, чтобы регулировать температуру
Одежда будущего
Стартап позволит совершать сделки с криптовалютой в тайне
Блокчейн
Renault построит «умную» энергосистему на острове в Португалии
Тренды
К 2030 треть всей производимой энергии в Европе должна быть чистой
Чистая энергия
Илон Маск покинул совет директоров OpenAI
Кейсы
Борьба со старением
Раскрыт механизм омоложения мозга переливанием крови
Балеарские острова перейдут на возобновляемую энергетику к 2050 году
Тренды
«Чистые» источники обеспечат 75% энергии в Южной Австралии к 2025 году
Тренды
«Мы должны прекратить притворяться, что ИИ не лишит людей работы»
Искусственный интеллект
Ученые впервые зарядили смартфон лазером с расстояния 4 метра
Беспроводная зарядка
Nokia запускает платформу для умных городов и IoT
Умный город
Городские фермы могут приносить до $160 млрд ежегодно
Города будущего
Исследователи объединили AR, 3D-печать и робототехнику
Тренды
Испанский стартап представил бумажные одноразовые батареи
Экологичные технологии
Boston Dynamics показала противостояние человека и робота
Робототехника
Возобновляемая энергетика
Прошел испытания первый в мире воздушный солнечный реактор
Boeing стандартизирует 3D-напечатанные запчасти для самолетов
3D-технологии
GoldX — первая криптовалюта, отвечающая законам шариата
Криптовалюты
Финляндия начнет выдавать стартап-вид на жительство
Тренды
Иранский инженер создал легкий электробайк с дальностью хода 80 км
Транспорт будущего
Google запустила собственный платежный сервис
Кейсы
Глава Банка Англии: «Биткойн не состоялся как валюта»
Криптовалюты
Нанотехнологии
Открыты материалы, которые совершат революцию в электронике
Китай впервые обошел США по объему инвестиций в ИИ-стартапы
Искусственный интеллект
Bigelow Space Operations займется торговлей орбитальными станциями
Частный космос
На продолжительность жизни потомства влияет возраст отцов
Генетика
Электромобили
Tesla Model S обогнала по продажам в Европе BMW 7 и Mercedes S-class
Роботы-террористы и постправда: главные угрозы ИИ
Искусственный интеллект
Toyota в 20 раз удешевила магниты для двигателей электромобилей
Электромобили
Тереза Мэй призывает британскую молодежь идти в техникумы
Образование
Новая электронная «кожа» чувствует прикосновение божьей коровки
Гибкая электроника
«Аналоговые банки и финансовые компании проиграют цифровым»
Мнения
Генетики нашли доказательства того, что люди одомашнили себя сами
Генетика
Falcon Heavy в 15 раз увеличила число доступных для разработки астероидов
Добыча на астероидах
Сооснователь Facebook: «БОД нужно вводить уже сейчас»
Соцпособия будущего
«ИТ-компании должны подготовить сотрудников к эпохе ИИ»
Автоматизация
Микроэлектроника
Samsung выпустила твердотельный накопитель емкостью 30,72 ТБ
Как лазеры и роботы меняют рыбоводческие фермы
Технологии будущего
Stelia напечатала авиационный фюзеляж с эффектом самоупрочнения
3D-технологии