Сообщить об ошибке на сайте
URL
Ошибка
Мнения

Алгоритмические системы предсказания рецидивизма были созданы, чтобы сокращать количество заключенных. Предполагалось, что машина выдаст непредвзятое суждение, но оказалось, что ИИ-системы, как и люди, подвержены предрассудкам. Издание Quartz объясняет, почему создание справедливого алгоритма — это пока непосильная задача.

Quartz рассказывает историю двух 18-летних девушек из небольшого городка во Флориде, которые в 2014 году забрали оставленные кем-то велосипед и самокат. Через несколько часов обеих девушек задержали и обвинили в краже. Причиной стал не столько сам факт «заимствования» чужого, сколько рейтинг системы COMPAS, которая определяет вероятность рецидивизма. Созданная компанией Northpointe система назначила одной девушке высокий риск рецидивизма, второй — средний. Как сообщает некоммерческая организация ProPublica, обе подсудимые были афроамериканками. «Хайтек» писал о похожем случае, когда алгоритм COMPAS обвинили в расизме.

Первые системы прогнозирования преступлений появились еще в начале 2000-х. Они были созданы для снижения количества заключенных. И за эти годы в некоторых американских штатах удалось добиться результатов. Так, за 10 лет в штате Вирджиния рост числа заключенных снизился с 31% до 5%.

Однако понимание того, как работают такие алгоритмы, за 17 лет так и не сформировалось. В Northpointe утверждают, что число рецидивистов среди представителей разных рас примерно одинаковое. Но анализ 7000 судебных случаев, проведенный ProPublica, показал, что темнокожим правонарушителям алгоритм чаще присуждает средний и высокий показатель риска.

Эксперт по компьютерным наукам Томас Микони считает, что машинам невозможно передать наши глубинные представления о морали: «Можно мечтать, будто мы сможем избежать предвзятости и несправедливости, если доверим принятие решений „Алгоритму“. Но результаты показывают, что это невозможно». В своем недавнем исследовании Микони отмечает, что справедливость — это субъективная человеческая черта. «Объяснить» ее алгоритму математически невозможно.

Обучить умные машины морали сложно еще и потому, что сами люди несправедливы. Мужчины зарабатывают больше женщин, а меньшинства составляют большую часть заключенных в США. Еще философ Иммануил Кант писал, что несправедливость встроена в природу человека.

По мнению Микони, есть лишь два способа внушить справедливость машинам. Первый — это создание всезнающего и всевидящего алгоритма, что объективно невозможно. Второй вариант потребует от людей отказа от привычных предрассудков. Да, согласно судебным документам афроамериканцы действительно чаще повторно совершают преступления. Но алгоритм не должен брать это во внимание, он должен рассматривать каждый случай без учета статистических данных, считает корреспондент Quartz Яцек Кривко.

Несмотря на все несовершенства, алгоритмы на базе машинного обучения уже позволяют прогнозировать и расследовать преступления. Успешные результаты недавно показал Чикаго. За 7 месяцев благодаря умным системам количество убийств в разных районах города снизилось на 33%.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Водородный автомобиль Rasa поступит в продажу в 2019 году
Идеи
Японец разработал плавающий электромобиль на случай цунами
Идеи
«Биткойн может просуществовать еще 100 лет»
Криптовалюты
ИИ научился самостоятельно проводить эксперименты по квантовой физике
Искусственный интеллект
Электромобили
4 неудобных вопроса о перспективах электромобилей
Искусственный фермент приближает создание синтетической формы жизни
Биотехнологии
CRISPR изменит сельское хозяйство в течение десятилетия
Тренды
Электрогрузовик Tesla Semi впервые замечен на обычной дороге
Электрогрузовики
Научный прогресс
Корейские физики испытали «информационный двигатель»
Отель будущего, оснащенный ИИ, угадает желания клиентов
Умный дом
«Автоматизация движется по пути эволюции, а не революции»
Автоматизация
Nissan начинает продажи домашних аккумуляторов и солнечных панелей
Тренды
В Стэнфорде открыли новый тип целлюлозы
Новые материалы
Добыча полезных ископаемых в космосе приведет к мировому кризису
Коммерческий космос
Audi запускает «виртуальные электростанции» по аналогии с Tesla
Электромобили
Глава Google: «ИИ по значимости превосходит огонь и электричество»
Искусственный интеллект
Microsoft описала один день из жизни человека и ИИ в 2038 году
Искусственный интеллект
ИИ превзошел человека в способности к компромиссам
Искусственный интеллект
NASA и Boeing разрабатывают самолет со складным крылом
Авиация
Тренды
Британские инженеры «оцифровали» распределительный вал ДВС
«Электронная кожа» управляет виртуальными и реальными объектами
Носимая электроника
Аналитики Deutsche Bank нашли связь между страхом и курсом биткойна
Блокчейн
Первый робомагазин Amazon открывается для широкой публики
Тренды
Ученые исследуют возможность заживления ран без рубцов
Медицина будущего
Доставка товаров дронами появится в Китае в первой половине года
Дроны-курьеры
Rocket Lab успешно запустила ракету Electron
Частный космос
ICO
Организаторы ICO Telegram получили заявки на $3,8 млрд
Китайские банки остановят платежи по криптовалютным сделкам
Блокчейн
Изобретения
Инженеры Бристоля сделали шаг к левитации человека
«Сегодняшний метод финансирования биотехнологий — это безумие»
Биотехнологии
Новая «лаборатория на чипе» проводит тысячи опытов одновременно
Биотехнологии
Физики России и Британии создали ключевой элемент квантового компьютера
Квантовая физика
«Гуманика объединит гуманитарные знания и технологии в эпоху ИИ»
Мнения
Все Peugeot к 2025 году станут гибридными или электрическими
Тренды
Франция и Британия будут исследовать ИИ вместе — в пику США
Тренды
В Британии установлен рекорд мощности ветровой энергетики — 13,5 ГВт
Чистая энергия
В Австралии дрон спас двух человек, тонувших в океане
Дроны-спасатели
Вакцина на основе пыльцы навсегда избавит от аллергии
Медицина будущего
Робот-ученый открыл новое лекарство от малярии
Медицина будущего
Первые перовскитные солнечные панели появятся на рынке в этом году
Идеи
Разработаны в 100 000 раз более быстрые ДНК-нанороботы
Нанотехнологии
Кейсы
Apple позволит отключать замедление айфонов на новой iOS
Борьба с раком
Новый анализ крови выявляет 8 самых распространенных видов рака
Ученые удвоили емкость литий-серных аккумуляторов
Аккумуляторы
«Беспилотная Tesla может появиться уже в 2018 году»
Беспилотные автомобили
Китай тестирует систему слежки с помощью технологии распознавания лиц
Тренды
Британцы начали получать полицейские сводки на умные колонки Amazon
Голосовые помощники
МВФ: «Биткойн пора обсудить на глобальном уровне»
Блокчейн
«Мятый» графен повысит срок службы литий-ионных батарей
Аккумуляторы