Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Джейсон Ташеа, основатель консалтинговой компании в сфере уголовного судопроизводства и технологий Justice Codes, написал колонку для Wired, в которой призвал запретить использование искусственного интеллекта для вынесения приговоров в американских судах.

«Алгоритмы все больше проникают в нашу жизнь, начиная музыкальными рекомендациями и кредитными рейтингами и заканчивая судебными решениями о временном освобождении до проведения слушаний и вынесением приговоров. Но в том, как они работают, отсутствует прозрачность и какой-либо контроль, — пишет Ташеа. — Нигде эта нехватка контроля не может быть более критичной, чем в системе уголовного правосудия. Без надлежащих гарантий безопасности эти инструменты подрывают верховенство права и ущемляют права людей».

По словам Ташеа, многие американские суды и исправительные учреждения сейчас используют машинные алгоритмы для определения уровня различных рисков, начиная от вероятности того, что обвиняемый совершит еще одно преступление и заканчивая риском того, что он не придет в суд на рассмотрение своего дела (после временного освобождения под обязательство явиться в суд). Судьи используют алгоритмы для принятия решений об освобождении под залог, назначении наказания и досрочном освобождении.

Тем не менее, государственные органы обычно не пишут собственные алгоритмы — они покупают их у частных компаний, и это зачастую означает, что только владельцы ПО и, в некоторой степени, его покупатели могут знать о том, как алгоритм принимает решение. На текущий момент не существует федерального закона или каких-либо других стандартов, которые требуют проводить проверку этих алгоритмов, как, например, происходит в случае с одобрением новых лекарств Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов США.

Такая непрозрачность судебных ИИ-систем уже имеет реальные последствия. В деле Висконсин против Лумиса обвиняемый Эрик Лумис был признан виновным в совершении выстрелов из окна своей машины. Во время допроса Лумис ответил на ряд вопросов, и его ответы были введены в Compas, программу для оценки рисков, разработанную частной компанией и используемую Департаментом исправительных учреждений штата Висконсин.

Compas оценил «риски» Лумиса как высокие, и в результате судья назначил ему максимально возможное наказание. Лумис попытался оспорить приговор на том основании, что у него не было возможности оценить механизм принятия решений алгоритмом. Верховный суд штата вынес решение против Лумиса, постановив, что знание итогового решения алгоритма уже подразумевает достаточный уровень прозрачности.

По мнению автора колонки, уголовное правосудие и правовые сообщества могут пойти двумя путями: либо слепо разрешить верховенство технологии, либо ввести мораторий на использование непрозрачных ИИ-алгоритмов для оценки рисков в уголовном судопроизводстве до тех пор, пока не будут разработаны единые процедуры для определения их качества.

По данным The Wall Street Journal, суды, как минимум, пятнадцати американских штатов уже используют машинные алгоритмы для вынесения решений о досрочном освобождении заключенных. По мнению разработчиков таких алгоритмов, искусственый интеллект помогает исключить нежелательное влияние человеческого фактора на принятие решений.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Nikola представила сверхмощный электровездеход
Электромобили
Microsoft разработала систему ускоренного обучения ИИ
Обучение машин
Идеи
10 главных научных открытий 2017 года
Lilium обещает вывести летающие такси на рынок в 2025 году
Летающие такси
Открыт новый тип электропроводности
Идеи
Фотосинтез бактерий-«киборгов» в 40 раз эффективнее, чем у растений
Идеи
Apple протестирует беспилотный автобус для сотрудников
Беспилотный транспорт
Эстония запустит эсткойн — национальную криптовалюту
Криптовалюты
К 2020 году вся линейка бытовых приборов Samsung получит ИИ-функции
Тренды
Человеческий мозг может предсказывать будущее
Нейротехнологии
ИИ предскажет деменцию до появления симптомов
Деменция
Мексика выпустит свой первый электромобиль
Тренды
Электроавиация
Электросамолет Sun Flyer выгоднее бензиновых аналогов
Хакеры взламывают криптокошельки через номера мобильных телефонов
Криптовалюты
Возрожден проект ядерного реактора на расплавах солей тория
Ядерная энергетика
Entocycle разводит съедобных личинок
Еда будущего
Медицинские технологии
Разработана вакцина, дающая иммунитет к героину
Дома-электростанции набирают популярность в США
Возобновляемая энергетика
Блокчейн-платформа TRON — это новый Alibaba
Криптовалюты
Марк Кьюбан инвестировал в венчурный криптовалютный фонд
Тренды
Проведена первая биткойн-транзакция со спутника
Кейсы
В Гарварде создают пробиотик, превращающий обычных людей в спортсменов
Спорт
В процессорах Intel Core 8-го поколения будет 6 ядер
Железо
Миллиардеры делают ставку на космический бизнес
Тренды
«Запрет роботов-убийц не имеет смысла»
Мнения
В Великобритании приравняли онлайн-преступления к обычным
Онлайн-преступления
Нанолазер уничтожает клетки рака
Борьба с раком
3D-печать
Новый 3D-принтер печатает пластиковые инструменты, крепкие как сталь
Хранение энергии
Cтартап использует поезда для хранения энергии
Солнечный самолет совершит первый полет в стратосферу в 2018 году
Транспорт будущего
В США криптовалюты хотят приравнять к доллару
Тренды
Распознавание лиц избавит человечество от паролей и ключей
Распознавание лиц
«Ледяные батареи» сократят потребление энергии на 95%
Чистая энергия
Sky Hopper — грузовой конвертоплан на электротяге
Идеи
Uber предложили объединить с Tesla
Технологические компании
«Электронная кожа» соберет данные о состоянии здоровья
Идеи
Aspire откроет роботизированную ферму по выращиванию насекомых
Тренды
В Великобритании создали самого маленького робота-хирурга
Робот-врач
Топ-5 функций Oreo — новой ОС Android
Мобильные технологии
«Формула-1» проведет киберспортивный чемпионат мира
Кейсы
Ford может полностью перейти на электромобили
Электромобили
Искусственный интеллект
«Из-за ИИ придется пересмотреть отношение к образованию и карьере»
Открыт новый класс химических реакций
Научные открытия
«Роботы уничтожат средний класс»
Мнения
Энди Рубин: «ИИ-смартфон станет виртуальной копией пользователя»
Мнения
Wal-Mart запатентовала летающий склад-дирижабль
Идеи
Транспорт будущего
«Дни двигателя внутреннего сгорания сочтены»
Один день на крупнейшей в мире китайской биткойн-шахте
Криптовалюты
Японские ученые продлили срок службы солнечных модулей из перовскитов
Идеи
Найден способ предотвращения нестабильности термоядерной реакции
Термоядерный синтез
«Дети должны обучаться программированию с двух лет»
Образование
К 2021 году в России будет использоваться 12,8 млн VR-шлемов
Мнения
ИИ научился видеть скрытые аналогии
Обучение машин