Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Джейсон Ташеа, основатель консалтинговой компании в сфере уголовного судопроизводства и технологий Justice Codes, написал колонку для Wired, в которой призвал запретить использование искусственного интеллекта для вынесения приговоров в американских судах.

«Алгоритмы все больше проникают в нашу жизнь, начиная музыкальными рекомендациями и кредитными рейтингами и заканчивая судебными решениями о временном освобождении до проведения слушаний и вынесением приговоров. Но в том, как они работают, отсутствует прозрачность и какой-либо контроль, — пишет Ташеа. — Нигде эта нехватка контроля не может быть более критичной, чем в системе уголовного правосудия. Без надлежащих гарантий безопасности эти инструменты подрывают верховенство права и ущемляют права людей».

По словам Ташеа, многие американские суды и исправительные учреждения сейчас используют машинные алгоритмы для определения уровня различных рисков, начиная от вероятности того, что обвиняемый совершит еще одно преступление и заканчивая риском того, что он не придет в суд на рассмотрение своего дела (после временного освобождения под обязательство явиться в суд). Судьи используют алгоритмы для принятия решений об освобождении под залог, назначении наказания и досрочном освобождении.

Тем не менее, государственные органы обычно не пишут собственные алгоритмы — они покупают их у частных компаний, и это зачастую означает, что только владельцы ПО и, в некоторой степени, его покупатели могут знать о том, как алгоритм принимает решение. На текущий момент не существует федерального закона или каких-либо других стандартов, которые требуют проводить проверку этих алгоритмов, как, например, происходит в случае с одобрением новых лекарств Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов США.

Такая непрозрачность судебных ИИ-систем уже имеет реальные последствия. В деле Висконсин против Лумиса обвиняемый Эрик Лумис был признан виновным в совершении выстрелов из окна своей машины. Во время допроса Лумис ответил на ряд вопросов, и его ответы были введены в Compas, программу для оценки рисков, разработанную частной компанией и используемую Департаментом исправительных учреждений штата Висконсин.

Compas оценил «риски» Лумиса как высокие, и в результате судья назначил ему максимально возможное наказание. Лумис попытался оспорить приговор на том основании, что у него не было возможности оценить механизм принятия решений алгоритмом. Верховный суд штата вынес решение против Лумиса, постановив, что знание итогового решения алгоритма уже подразумевает достаточный уровень прозрачности.

По мнению автора колонки, уголовное правосудие и правовые сообщества могут пойти двумя путями: либо слепо разрешить верховенство технологии, либо ввести мораторий на использование непрозрачных ИИ-алгоритмов для оценки рисков в уголовном судопроизводстве до тех пор, пока не будут разработаны единые процедуры для определения их качества.

По данным The Wall Street Journal, суды, как минимум, пятнадцати американских штатов уже используют машинные алгоритмы для вынесения решений о досрочном освобождении заключенных. По мнению разработчиков таких алгоритмов, искусственый интеллект помогает исключить нежелательное влияние человеческого фактора на принятие решений.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
К концу года мощность солнечной энергетики Китая достигнет 50 ГВт
Тренды
Тренды
Amazon станет первой в мире компанией, которая стоит $1 трлн
Молекулы-самоубийцы могут защитить нас от рака
Борьба с раком
Blue Origin впервые провела огневые испытания своего двигателя BE-4
Частный космос
Toyota Sora — новый водородный автобус для гостей Олимпийских игр
Транспорт будущего
Ученые создали двумерный «идеальный» транзистор
Новая электроника
Huawei добилась 20 Гбит/с в испытаниях 5G Dual Connectivity
Переход на 5G
Сингапурские ученые делают фотоэлементы из меди, цинка и олова
Энергия солнца
Транспорт будущего
Маск купил еще одну буровую машину и роет тоннель в Вашингтон
В Швеции выбрали место для строительства конкурента Gigafactory
Тренды
Россия получила рекордное количество медалей на World Skills 2017
Кейсы
Эндрю Ын возглавил стартап, разрабатывающий чатбота-психотерапевта
Кейсы
Блокчейн может трансформировать сферу туризма
Блокчейн-технологии
Водоросли помогли улучшить органические солнечные элементы
Солнечная энергия
Veo Robotics переложит тяжелый труд на плечи роботов
Робототехника
Блокчейн и криптовалюты совершат революцию в БОД
Соцпособия будущего
Flare — камера слежения с ИИ для умного дома
Умный дом
Разработана компьютерная память молекулярного уровня
Компьютерная память
Астрофизика
5 открытий в сфере гравитационных волн, которые изменили астрофизику
4 фактора, которые преобразят IoT
Интернет вещей
Синтезирован препарат, эффективно подавляющий ВИЧ
Лечение ВИЧ
«Вертолеты России» покажут электрический конвертоплан в 2019 году
Городская авиация
Идеи
Toyota создала водородный минивэн с дальностью хода 1000 км
Число криптовалютных хедж-фондов перевалило за сотню
Тренды
В США стартует первый государственный эксперимент с выплатой БОД
Тренды
В Китае открыли роботизированную промзону за $300 млн
Промышленная робототехника
В Канаде начали тестировать робомобили на дорогах общего пользования
Беспилотные автомобили
В Шотландии запущена первая плавучая ветровая ферма
Ветровая энергетика
Робот-садовник поливает и защищает растения от вредителей
Робототехника
Виталик Бутерин: «Центробанкам еще далеко до введения криптовалют»
Криптовалюты
Электромопед от Honda станет домашней системой хранения энергии
Электромотоциклы
Eviation обещает запустить авиационный Uber в 2019 году
Электроавиация
Роберт Уразов: «На смену дипломам приходят паспорта навыков»
Тренды
Биосфера
Ученые не могут объяснить резкое сокращение числа летающих насекомых
Китай выпустит 1 млн электромобилей в 2018 году
Электромобили
ИИ от DeepMind стал гроссмейстером по игре го за 3 дня
Искусственный интеллект
Центробанк Бразилии признал биткойн финансовой пирамидой
Криптовалюты
«Мозги» беспилотной системы Apple размещаются на крыше автомобиля
Беспилотный транспорт
Новое открытие приближает появление квантовых компьютеров
Нанотехнологии
В 2018 году Baidu запустит в Китае беспилотный автобус
Беспилотный транспорт
Garmin Speak — умный автонавигатор с Alexa
Умный автомобиль
Беспилотный транспорт
Daimler показала, на что способны ее беспилотные грузовики
11 главных инженерных инноваций 2017 года
Рейтинг лучших
Электробайки Zero станут в 2018 году быстрее, мощнее, выносливее
Транспорт будущего
Samsung хочет подключить всю бытовую технику к IoT
Интернет вещей
Полиция Лос-Анджелеса начнет использовать дронов
Тренды
«Нельзя управлять экономикой, имея только бакалавров и магистров»
Кейсы
Тренды
Amazon начал продавать и доставлять целые дома
Baidu планирует захватить рынок ИИ
Искусственный интеллект