Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Джейсон Ташеа, основатель консалтинговой компании в сфере уголовного судопроизводства и технологий Justice Codes, написал колонку для Wired, в которой призвал запретить использование искусственного интеллекта для вынесения приговоров в американских судах.

«Алгоритмы все больше проникают в нашу жизнь, начиная музыкальными рекомендациями и кредитными рейтингами и заканчивая судебными решениями о временном освобождении до проведения слушаний и вынесением приговоров. Но в том, как они работают, отсутствует прозрачность и какой-либо контроль, — пишет Ташеа. — Нигде эта нехватка контроля не может быть более критичной, чем в системе уголовного правосудия. Без надлежащих гарантий безопасности эти инструменты подрывают верховенство права и ущемляют права людей».

По словам Ташеа, многие американские суды и исправительные учреждения сейчас используют машинные алгоритмы для определения уровня различных рисков, начиная от вероятности того, что обвиняемый совершит еще одно преступление и заканчивая риском того, что он не придет в суд на рассмотрение своего дела (после временного освобождения под обязательство явиться в суд). Судьи используют алгоритмы для принятия решений об освобождении под залог, назначении наказания и досрочном освобождении.

Тем не менее, государственные органы обычно не пишут собственные алгоритмы — они покупают их у частных компаний, и это зачастую означает, что только владельцы ПО и, в некоторой степени, его покупатели могут знать о том, как алгоритм принимает решение. На текущий момент не существует федерального закона или каких-либо других стандартов, которые требуют проводить проверку этих алгоритмов, как, например, происходит в случае с одобрением новых лекарств Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов США.

Такая непрозрачность судебных ИИ-систем уже имеет реальные последствия. В деле Висконсин против Лумиса обвиняемый Эрик Лумис был признан виновным в совершении выстрелов из окна своей машины. Во время допроса Лумис ответил на ряд вопросов, и его ответы были введены в Compas, программу для оценки рисков, разработанную частной компанией и используемую Департаментом исправительных учреждений штата Висконсин.

Compas оценил «риски» Лумиса как высокие, и в результате судья назначил ему максимально возможное наказание. Лумис попытался оспорить приговор на том основании, что у него не было возможности оценить механизм принятия решений алгоритмом. Верховный суд штата вынес решение против Лумиса, постановив, что знание итогового решения алгоритма уже подразумевает достаточный уровень прозрачности.

По мнению автора колонки, уголовное правосудие и правовые сообщества могут пойти двумя путями: либо слепо разрешить верховенство технологии, либо ввести мораторий на использование непрозрачных ИИ-алгоритмов для оценки рисков в уголовном судопроизводстве до тех пор, пока не будут разработаны единые процедуры для определения их качества.

По данным The Wall Street Journal, суды, как минимум, пятнадцати американских штатов уже используют машинные алгоритмы для вынесения решений о досрочном освобождении заключенных. По мнению разработчиков таких алгоритмов, искусственый интеллект помогает исключить нежелательное влияние человеческого фактора на принятие решений.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Стартап позволит совершать сделки с криптовалютой в тайне
Блокчейн
Renault построит «умную» энергосистему на острове в Португалии
Тренды
К 2030 треть всей производимой энергии в Европе должна быть чистой
Чистая энергия
Илон Маск покинул совет директоров OpenAI
Кейсы
Балеарские острова перейдут на возобновляемую энергетику к 2050 году
Тренды
«Чистые» источники обеспечат 75% энергии в Южной Австралии к 2025 году
Тренды
Искусственный интеллект
«Мы должны прекратить притворяться, что ИИ не лишит людей работы»
Ученые впервые зарядили смартфон лазером с расстояния 4 метра
Беспроводная зарядка
Nokia запускает платформу для умных городов и IoT
Умный город
Городские фермы могут приносить до $160 млрд ежегодно
Города будущего
Исследователи объединили AR, 3D-печать и робототехнику
Тренды
Испанский стартап представил бумажные одноразовые батареи
Экологичные технологии
Boston Dynamics показала противостояние человека и робота
Робототехника
Возобновляемая энергетика
Прошел испытания первый в мире воздушный солнечный реактор
Boeing стандартизирует 3D-напечатанные запчасти для самолетов
3D-технологии
GoldX — первая криптовалюта, отвечающая законам шариата
Криптовалюты
Финляндия начнет выдавать стартап-вид на жительство
Тренды
Иранский инженер создал легкий электробайк с дальностью хода 80 км
Транспорт будущего
Google запустила собственный платежный сервис
Кейсы
Нанотехнологии
Открыты материалы, которые совершат революцию в электронике
Глава Банка Англии: «Биткойн не состоялся как валюта»
Криптовалюты
Китай впервые обошел США по объему инвестиций в ИИ-стартапы
Искусственный интеллект
Bigelow Space Operations займется торговлей орбитальными станциями
Частный космос
На продолжительность жизни потомства влияет возраст отцов
Генетика
Роботы-террористы и постправда: главные угрозы ИИ
Искусственный интеллект
Электромобили
Tesla Model S обогнала по продажам в Европе BMW 7 и Mercedes S-class
Toyota в 20 раз удешевила магниты для двигателей электромобилей
Электромобили
Тереза Мэй призывает британскую молодежь идти в техникумы
Образование
Новая электронная «кожа» чувствует прикосновение божьей коровки
Гибкая электроника
«Аналоговые банки и финансовые компании проиграют цифровым»
Мнения
Генетики нашли доказательства того, что люди одомашнили себя сами
Генетика
Falcon Heavy в 15 раз увеличила число доступных для разработки астероидов
Добыча на астероидах
Сооснователь Facebook: «БОД нужно вводить уже сейчас»
Соцпособия будущего
«ИТ-компании должны подготовить сотрудников к эпохе ИИ»
Автоматизация
Микроэлектроника
Samsung выпустила твердотельный накопитель емкостью 30,72 ТБ
Как лазеры и роботы меняют рыбоводческие фермы
Технологии будущего
Stelia напечатала авиационный фюзеляж с эффектом самоупрочнения
3D-технологии
Суперкомпьютер помог создать новый тип люминофора для светодиодов
Новые технологии
Франция собирается стать крупным игроком на рынке приливной энергии
Возобновляемая энергетика
Медицина будущего
Открытие ученых позволит «перепрошить» мозг после инсульта
Центробанк Швеции обеспокоен стремительным отказом от наличных
Кейсы
В Великобритании пациенту установили ребра, напечатанные из титана
Кейсы
Алгоритм от Google прогнозирует инфаркт по сетчатке глаза
Искусственный интеллект
Электромобили
В Японии создали электрокар, который разгоняется быстрее Tesla
Ученые нашли 15 генов, определяющих черты лица
Генетика
QIWI запускает краудфандинговую платформу Fundl
Кейсы
«Криптовалюты не угрожают финансовой системе»
Блокчейн
Венесуэла начала предпродажу национальной криптовалюты Petro
Блокчейн
В России запустят единую биометрическую систему идентификации личности
Биометрическая идентификация