Сообщить об ошибке на сайте
URL
Ошибка
Мнения

Алгоритмические системы предсказания рецидивизма были созданы, чтобы сокращать количество заключенных. Предполагалось, что машина выдаст непредвзятое суждение, но оказалось, что ИИ-системы, как и люди, подвержены предрассудкам. Издание Quartz объясняет, почему создание справедливого алгоритма — это пока непосильная задача.

Quartz рассказывает историю двух 18-летних девушек из небольшого городка во Флориде, которые в 2014 году забрали оставленные кем-то велосипед и самокат. Через несколько часов обеих девушек задержали и обвинили в краже. Причиной стал не столько сам факт «заимствования» чужого, сколько рейтинг системы COMPAS, которая определяет вероятность рецидивизма. Созданная компанией Northpointe система назначила одной девушке высокий риск рецидивизма, второй — средний. Как сообщает некоммерческая организация ProPublica, обе подсудимые были афроамериканками. «Хайтек» писал о похожем случае, когда алгоритм COMPAS обвинили в расизме.

Первые системы прогнозирования преступлений появились еще в начале 2000-х. Они были созданы для снижения количества заключенных. И за эти годы в некоторых американских штатах удалось добиться результатов. Так, за 10 лет в штате Вирджиния рост числа заключенных снизился с 31% до 5%.

Однако понимание того, как работают такие алгоритмы, за 17 лет так и не сформировалось. В Northpointe утверждают, что число рецидивистов среди представителей разных рас примерно одинаковое. Но анализ 7000 судебных случаев, проведенный ProPublica, показал, что темнокожим правонарушителям алгоритм чаще присуждает средний и высокий показатель риска.

Эксперт по компьютерным наукам Томас Микони считает, что машинам невозможно передать наши глубинные представления о морали: «Можно мечтать, будто мы сможем избежать предвзятости и несправедливости, если доверим принятие решений „Алгоритму“. Но результаты показывают, что это невозможно». В своем недавнем исследовании Микони отмечает, что справедливость — это субъективная человеческая черта. «Объяснить» ее алгоритму математически невозможно.

Обучить умные машины морали сложно еще и потому, что сами люди несправедливы. Мужчины зарабатывают больше женщин, а меньшинства составляют большую часть заключенных в США. Еще философ Иммануил Кант писал, что несправедливость встроена в природу человека.

По мнению Микони, есть лишь два способа внушить справедливость машинам. Первый — это создание всезнающего и всевидящего алгоритма, что объективно невозможно. Второй вариант потребует от людей отказа от привычных предрассудков. Да, согласно судебным документам афроамериканцы действительно чаще повторно совершают преступления. Но алгоритм не должен брать это во внимание, он должен рассматривать каждый случай без учета статистических данных, считает корреспондент Quartz Яцек Кривко.

Несмотря на все несовершенства, алгоритмы на базе машинного обучения уже позволяют прогнозировать и расследовать преступления. Успешные результаты недавно показал Чикаго. За 7 месяцев благодаря умным системам количество убийств в разных районах города снизилось на 33%.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
В МТИ изобрели новый способ хранения тепловой энергии
Идеи
20 стран откажутся от угольных электростанций к 2030 году
Кейсы
Новая Зеландия хочет истребить животных-вредителей с помощью CRISPR
Редактирование генома
AmEx запустила первый в мире сервис платежей на блокчейне
Блокчейн
«Предсказать скорость старения по анализам невозможно»
Идеи
Intel представила семейство 5G-модемов
Переход на 5G
Чистая энергетика
В Мексике установлена самая низкая в мире цена на солнечную энергию
Ученые вернули парализованным крысам возможность ходить
Биотехнологии
Fujitsu упростит обмен одних криптовалют на другие
Блокчейн
GE выпустила «мечту инженера» — 3D-принтер для печати авиазапчастей
3D-печать
ООН: «Цифровые технологии усиливают неравенство между странами»
Тренды
Нефтяной фонд Норвегии откажется от инвестиций в нефть и газ
Кейсы
Volkswagen инвестирует $12 млрд в производство электромобилей в Китае
Тренды
Биткойны
Владельцы биткойнов в США продадут их только при курсе $190 тысяч
Китай построит космический челнок с атомным двигателем до 2040 года
Космические планы
Изобретен более точный метод генного редактирования
Генетика
Умный замок BoxLock откроется только для вас и вашего курьера
Умный дом
Глава DARPA: «Мы застряли в прошлом, нас спасет только частный сектор»
Космические планы
Baidu представила домашних роботов и умную колонку с ИИ
Умный дом
Искусственный интеллект
«Мы воспитываем ИИ-бога, который возьмет власть над планетой»
Мутация в сообществе амишей защищает от старости
Идеи
К 2050 году водород обеспечит 1/5 энергетических потребности мира
Альтернативное топливо
Создана вакцина против рака печени
Борьба с раком
Система робомагазина Amazon Go узнает вора даже под маской
Магазины будущего
ИИ-повар Джузеппе готовит веганский майонез, по вкусу «как настоящий»
Искусственный интеллект
В Канаде введут систему идентификации на блокчейне
Блокчейн
Обнаружена еще одна экзопланета, пригодная для жизни
Жизнь в космосе
Экзоскелеты
Loсkheed Martin разработала экзоскелет для военного десанта
Компьютерная безграмотность несет угрозу американским рабочим
Рынок труда
Машинное обучение
Алгоритм Эндрю Ына лучше диагностирует пневмонию, чем врачи
Китай тестирует электронную идентификацию граждан на смартфонах
Тренды
«Биткойн-фьючерсы дестабилизируют мировую экономику»
Криптовалюты
Olie — самая дешевая умная лампа со встроенным голосовым помощником
Умный дом
Microsoft: «ИИ несет наибольшие риски нефтегазовому сектору»
Искусственный интеллект
40% пользователей боятся слежки через устройства умного дома
Умный дом
Эксперт по ИИ: «Я пацифист, но я против запрета роботов-убийц»
Искусственный интеллект
Физики экспериментально проверят теорию квантовой гравитации
Квантовая физика
TrueAccord собирает деньги с должников «мягко и аккуратно»
Финтех
Face ID будет контролировать продажу алкоголя в британских магазинах
Идеи
Человекоподобный чат-бот от Soul Machines начнет работать в Autodesk
Чатботы
Кейсы
Ученые впервые отредактировали гены в организме человека
VR не менее эффективна после инсульта, чем физиотерапия
Медицина будущего
SpaceX осуществит сверхсекретную космическую миссию Zuma
Частный космос
Медицина будущего
Началось тестирование персонализированной вакцины от рака на человеке
В Дубае остановки, мосты и причалы напечатают на 3D-принтере
Строительная 3D печать
«Электромобили GM станут прибыльными, в отличие от Tesla»
Электромобили
10 событий, которые изменят интернет вещей в 2018 году
Тренды
Технологии хранения в пять раз увеличивают стоимость чистой энергии
Чистая энергия
Новый спектроскоп позволит заглянуть в мозг новорожденных
Медицина будущего