Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Джейсон Ташеа, основатель консалтинговой компании в сфере уголовного судопроизводства и технологий Justice Codes, написал колонку для Wired, в которой призвал запретить использование искусственного интеллекта для вынесения приговоров в американских судах.

«Алгоритмы все больше проникают в нашу жизнь, начиная музыкальными рекомендациями и кредитными рейтингами и заканчивая судебными решениями о временном освобождении до проведения слушаний и вынесением приговоров. Но в том, как они работают, отсутствует прозрачность и какой-либо контроль, — пишет Ташеа. — Нигде эта нехватка контроля не может быть более критичной, чем в системе уголовного правосудия. Без надлежащих гарантий безопасности эти инструменты подрывают верховенство права и ущемляют права людей».

По словам Ташеа, многие американские суды и исправительные учреждения сейчас используют машинные алгоритмы для определения уровня различных рисков, начиная от вероятности того, что обвиняемый совершит еще одно преступление и заканчивая риском того, что он не придет в суд на рассмотрение своего дела (после временного освобождения под обязательство явиться в суд). Судьи используют алгоритмы для принятия решений об освобождении под залог, назначении наказания и досрочном освобождении.

Тем не менее, государственные органы обычно не пишут собственные алгоритмы — они покупают их у частных компаний, и это зачастую означает, что только владельцы ПО и, в некоторой степени, его покупатели могут знать о том, как алгоритм принимает решение. На текущий момент не существует федерального закона или каких-либо других стандартов, которые требуют проводить проверку этих алгоритмов, как, например, происходит в случае с одобрением новых лекарств Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов США.

Такая непрозрачность судебных ИИ-систем уже имеет реальные последствия. В деле Висконсин против Лумиса обвиняемый Эрик Лумис был признан виновным в совершении выстрелов из окна своей машины. Во время допроса Лумис ответил на ряд вопросов, и его ответы были введены в Compas, программу для оценки рисков, разработанную частной компанией и используемую Департаментом исправительных учреждений штата Висконсин.

Compas оценил «риски» Лумиса как высокие, и в результате судья назначил ему максимально возможное наказание. Лумис попытался оспорить приговор на том основании, что у него не было возможности оценить механизм принятия решений алгоритмом. Верховный суд штата вынес решение против Лумиса, постановив, что знание итогового решения алгоритма уже подразумевает достаточный уровень прозрачности.

По мнению автора колонки, уголовное правосудие и правовые сообщества могут пойти двумя путями: либо слепо разрешить верховенство технологии, либо ввести мораторий на использование непрозрачных ИИ-алгоритмов для оценки рисков в уголовном судопроизводстве до тех пор, пока не будут разработаны единые процедуры для определения их качества.

По данным The Wall Street Journal, суды, как минимум, пятнадцати американских штатов уже используют машинные алгоритмы для вынесения решений о досрочном освобождении заключенных. По мнению разработчиков таких алгоритмов, искусственый интеллект помогает исключить нежелательное влияние человеческого фактора на принятие решений.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Идеи
Beyond Meat увеличит производство искусственного мяса в три раза
Чехол смартфона превратили в глюкометр
Лечение диабета
Разработан двумерный транзистор на бумажной основе
Электронная бумага
Clova — виртуальный помощник, понимающий все нюансы японского языка
Кейсы
ВЭФ назвал скуку одним из главных рисков автоматизации
Тренды
Найден источник метана в океане — это микробы
Научные открытия
Зарплаты блокчейн-специалистов в Швейцарии выросли до $180 тысяч в год
ICO
Квантовые компьютеры
«Квантовые компьютеры страшнее ядерного оружия»
Глава Boeing пообещал раньше Маска отправить человека на Марс
Миссия на Марс
Bank of America запатентовал автоматический обменник криптовалют
Криптовалюты
Доказана эффективность генной терапии в борьбе с болезнями мозга
Генная терапия
Hilton оборудует номера в своих отелях системами умного дома
Умный дом
Skypod — робот-кладовщик, взбирающийся на полки
Промышленные роботы
«Генное программирование станет новой инженерной дисциплиной»
Генная инженерия
Европейские энергокомпании станут углеродно-нейтральными к 2050 году
Тренды
Солнечная энергия
Создан солнечный элемент по рецептам Теслы и Эйнштейна
«ИИ оставит программистов без работы к 2040 году»
Искусственный интеллект
Пациентам датской больницы напечатают еду с учетом предписаний врача
3D-печать
Видеоигры предотвращают старческое слабоумие
Исследования мозга
ИИ помогает ловить серийных убийц
Идеи
Lyft начинает испытания робомобилей от NuTonomy
Беспилотные автомобили
Let Glass — первые умные очки с поддержкой Alexa
Умные очки
Идеи
Синтезирован «гормон любви» без побочных эффектов
Новая технология позволяет видеть сквозь любые стены
Кейсы
Amazon запатентовала ИИ-консультанта для садоводов-любителей
Кейсы
Открыт нейронный механизм подавления чувства голода
Медицинские исследования
Сооснователь Wikipedia создаст энциклопедию на блокчейне
Идеи
Британская компания выпустит «вечные» кроссовки с подошвой из графена
Новые материалы
Австралийская фондовая биржа переходит на блокчейн
Блокчейн
Япония представила первые в мире напечатанные OLED-панели
Гибкие дисплеи
Goldman Sachs назвал криптовалюту эфир в числе трендов, меняющих мир
Тренды
«Перезагрузка» митохондрий замедляет развитие болезни Альцгеймера
Борьба со старением
Rinspeed представила концепт беспилотного электробуса
Транспорт будущего
Alexa заставляет пользователей больше покупать
Голосовые помощники
Термоядерный синтез
Термоядерный реактор ITER готов на 50%
Криптовалюты
В России введут уголовную ответственность за расчеты в криптовалютах
Каждый пятый биткойн покупают в Южной Корее
Блокчейн
Миниатюрный биосенсор анализирует состояние организма по поту
Биотехнологии
В Сан-Франциско запретили доставку покупок роботами-курьерами
Кейсы
Илона Маска обвинили во всемирном дефиците батареек
Аккумуляторы
Новый ИИ за считанные часы освоил шахматы и го и разгромил чемпионов
Искусственный интеллект
Qualcomm представила процессор Snapdragon 845
Тренды
Commonwealth Bank выпустит первые в мире облигации на блокчейне
Блокчейн
IBM представила первые серверы Power9 для ИИ
Обучение машин
Tencent: «В мире всего 300 тысяч экспертов по ИИ, хотя нужны миллионы»
Мнения
Шведский стартап начинает производство водорослей для фотоэлементов
Чистая энергия
Квантовые технологии
Внутри биологической системы впервые создали квантовую запутанность
К 2022 умные города помогут снизить расходы на $5 трлн
Умный город
Сервис летающих такси от Volocopter запустят до 2021
Транспорт будущего