Кейсы

Алгоритм для вынесения приговоров обвинили в предвзятости

Далее

Заключенный Эрик Лумис подал иск в Верховный суд штата Висконсин с требованием пересмотреть использование алгоритма для вынесения судебных решений. По мнению Лумиса, система работает некорректно и выносит решения предвзято, основываясь на общих фактах. Исход дела должен решиться в ближайшее время, пишет Engadget.

По мнению Лумиса, судебная система излишне полагается на алгоритм COMPAS, который используется для прогнозирования случаев рецидивизма. Программа проанализировала дело Лумиса, в результате чего он был осужден на 6 лет.

Представители Лумиса в суде утверждают, что код COMPAS несовершенен и делает слишком обобщенные выводы. Например, прогнозирует поведение преступника на основе таких базовых данных, как его пол и возраст. Также алгоритм применяет секретные критерии оценки личности подсудимого, суть которых не разглашается.

В США компьютеры решают судьбу осужденных преступников

Суд Висконсина должен вынести решение по делу в ближайшие дни. Это не первый случай, когда алгоритмы системы исполнения наказаний подвергаются критике. Союз гражданских свобод США уже отмечал, что программы прогнозирования преступлений только усиливают предвзятое отношение к некоторым лицам и часто полагаются на ошибочные данные, предоставленные органами правопорядка. Так издание ProPublica обнаружило, что система COMPAS чаще ошибочно присуждает высокий риск рецидивизма чернокожим преступникам.

Загрузка...