По мнению Лумиса, судебная система излишне полагается на алгоритм COMPAS, который используется для прогнозирования случаев рецидивизма. Программа проанализировала дело Лумиса, в результате чего он был осужден на 6 лет.
Представители Лумиса в суде утверждают, что код COMPAS несовершенен и делает слишком обобщенные выводы. Например, прогнозирует поведение преступника на основе таких базовых данных, как его пол и возраст. Также алгоритм применяет секретные критерии оценки личности подсудимого, суть которых не разглашается.
В США компьютеры решают судьбу осужденных преступников
Технологии
Суд Висконсина должен вынести решение по делу в ближайшие дни. Это не первый случай, когда алгоритмы системы исполнения наказаний подвергаются критике. Союз гражданских свобод США уже отмечал, что программы прогнозирования преступлений только усиливают предвзятое отношение к некоторым лицам и часто полагаются на ошибочные данные, предоставленные органами правопорядка. Так издание ProPublica обнаружило, что система COMPAS чаще ошибочно присуждает высокий риск рецидивизма чернокожим преступникам.