Сообщить об ошибке на сайте
URL
Ошибка
Мнения

Алгоритмические системы предсказания рецидивизма были созданы, чтобы сокращать количество заключенных. Предполагалось, что машина выдаст непредвзятое суждение, но оказалось, что ИИ-системы, как и люди, подвержены предрассудкам. Издание Quartz объясняет, почему создание справедливого алгоритма — это пока непосильная задача.

Quartz рассказывает историю двух 18-летних девушек из небольшого городка во Флориде, которые в 2014 году забрали оставленные кем-то велосипед и самокат. Через несколько часов обеих девушек задержали и обвинили в краже. Причиной стал не столько сам факт «заимствования» чужого, сколько рейтинг системы COMPAS, которая определяет вероятность рецидивизма. Созданная компанией Northpointe система назначила одной девушке высокий риск рецидивизма, второй — средний. Как сообщает некоммерческая организация ProPublica, обе подсудимые были афроамериканками. «Хайтек» писал о похожем случае, когда алгоритм COMPAS обвинили в расизме.

Первые системы прогнозирования преступлений появились еще в начале 2000-х. Они были созданы для снижения количества заключенных. И за эти годы в некоторых американских штатах удалось добиться результатов. Так, за 10 лет в штате Вирджиния рост числа заключенных снизился с 31% до 5%.

Однако понимание того, как работают такие алгоритмы, за 17 лет так и не сформировалось. В Northpointe утверждают, что число рецидивистов среди представителей разных рас примерно одинаковое. Но анализ 7000 судебных случаев, проведенный ProPublica, показал, что темнокожим правонарушителям алгоритм чаще присуждает средний и высокий показатель риска.

Эксперт по компьютерным наукам Томас Микони считает, что машинам невозможно передать наши глубинные представления о морали: «Можно мечтать, будто мы сможем избежать предвзятости и несправедливости, если доверим принятие решений „Алгоритму“. Но результаты показывают, что это невозможно». В своем недавнем исследовании Микони отмечает, что справедливость — это субъективная человеческая черта. «Объяснить» ее алгоритму математически невозможно.

Обучить умные машины морали сложно еще и потому, что сами люди несправедливы. Мужчины зарабатывают больше женщин, а меньшинства составляют большую часть заключенных в США. Еще философ Иммануил Кант писал, что несправедливость встроена в природу человека.

По мнению Микони, есть лишь два способа внушить справедливость машинам. Первый — это создание всезнающего и всевидящего алгоритма, что объективно невозможно. Второй вариант потребует от людей отказа от привычных предрассудков. Да, согласно судебным документам афроамериканцы действительно чаще повторно совершают преступления. Но алгоритм не должен брать это во внимание, он должен рассматривать каждый случай без учета статистических данных, считает корреспондент Quartz Яцек Кривко.

Несмотря на все несовершенства, алгоритмы на базе машинного обучения уже позволяют прогнозировать и расследовать преступления. Успешные результаты недавно показал Чикаго. За 7 месяцев благодаря умным системам количество убийств в разных районах города снизилось на 33%.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Мнения
«Реальная цена биткойна — $0»
Цифровые технологии могут уничтожить мегаполисы
Города будущего
В Китае хотят повторить успех Маска с многоразовыми ракетами
Частный космос
Открыт механизм образования первых молекул, давших начало жизни
Теория эволюции
Крупнейшая в мире солнечная электростанция станет еще больше
Технологический рывок
Немецкий автопром может не выдержать конкуренции с Tesla и Китаем
Электромобили
Японские города начали отключаться от централизованных энергосетей
Тренды
Bosch поможет Nikola Motor создать водородный электрогрузовик
Транспорт будущего
Стартап обещает ускорить биоинженерные процессы в 10 000 раз
Биоинженерия
Управлять перископами на субмаринах ВМС США будут геймпадами Xbox 360
Тренды
«На рынке криптовалют официально трудится всего 1876 человек»
Криптовалюты
Стартап придумал, как вдвое увеличить производительность инкубаторов
Генетика
Генетики разработали новый метод борьбы с лишним весом
Медицина будущего
Медицинские разработки
Китайские ученые разрабатывают вакцину от кариеса
Электроавтобус Proterra прошел 1770 км на одном заряде
Электротранспорт
Карлос Гон: «К 2040 году бензинового транспорта не останется»
Транспорт будущего
Эндрю Ын: «Использование нейросетей не делает бизнес ИИ-компанией»
Искусственный интеллект
ИИ-разработчик Alphabet обвинил Маска в хайпе вокруг ИИ-апокалипсиса
Искусственный интеллект
«Почта России» протестирует доставку посылок беспилотниками
Доставка дронами
Udacity запустит онлайн-курс для разработчиков летающих автомобилей
Транспорт будущего
Блокчейн
«95% криптовалют не будут ничего стоить через год или два»
Amazon Echo победила в битве голосовых помощников
Тренды
Moderna обещает научить организм самостоятельно вырабатывать лекарства
Идеи
К 2050 году 85% электроэнергии обеспечат возобновляемые источники
Тренды
Японские инженеры создали гибкие водонепроницаемые фотоэлементы
Идеи
Генетика
Ученые научились программировать клетки как компьютер
Разработана «шпатлевка», которая чинит поврежденные кости
Биотехнологии
Стартап изобрел перчатки, наделяющие суперсилой
Экзоскелеты
ИИ в страховании привлекает огромные инвестиции
Умное страхование
Беспилотные дроны и летающие автомобили вселяют ужас в американцев
Новые технологии
Мнения
«Искусственному интеллекту срочно нужен регулятор»
Pi Charger заряжает телефоны в радиусе 30 см
Беспроводная зарядка
Google запустила в Индии сервис платежей на основе ультразвука
Новые технологии
Ученые впервые преобразовали световые волны в звуковые
Оптическая связь
GE внедряет ИИ-систему, которая сэкономит потребителям $200 млрд
Умная энергетика
Бутерин: «Блокчейну понадобится пара лет, чтобы сравняться с Visa»
Блокчейн-технологии
Intel обеспечит робомобили Waymo пятым уровнем автономности
Робомобили
В Британии построят дороги, генерирующие электричество от трафика
Тренды
Intel инвестировала более $1 млрд в ИИ-компании
Искусственный интеллект
Прогнозы
Юрий Мильнер: «Стоимость интернет-сервисов вырастет за 20 лет в 10 раз»
В МТИ открыт способ быстрого акустического анализа крови
Биотехнологии
Распознавание лиц будет во всех гаджетах к 2020 году
Тренды
aCar — электромобиль для суровых африканских дорог
Электротранспорт
Новый портативный кондиционер может охлаждать шляпы и смартфоны
Идеи
«Если ИИ создадут свою социальную сеть, они выйдут из-под контроля»
Искусственный интеллект
Глава BNP Paribas: «Технологии не уничтожат работу, а изменят ее суть»
Мнения
Биотехнологии
Открытие ученых позволит женщинам рожать после менопаузы
Apple наймет психолога для обучения Siri
Идеи
Hinckley представила электрическую яхту с дальностью хода 64 км
Идеи
В России созданы первые экзопротезы лица
Тренды
Ученые собрали прототип непробиваемых защитных рукавиц
Новые материалы
Чистая энергия
Новая ветровая турбина от GE может обеспечить энергией 5000 домов