Мнения

Автопилоты будут решать, кого убить, а кого нет

Далее

Автономный транспорт принимает решения о перестроении, ускорении, остановке – с этим все более менее ясно. Но что делать с вопросом чья жизнь для него дороже: пассажиров или пешеходов, и что выбрать, если пешеход не один. Сегодня настало время особенно внимательно обратить на это внимание, пишет BI.

При каждом своем маневре самоуправляемый автомобиль совершает компромисс. Система решает, что для нее важнее в данный момент. Если представить более страшный сценарий, например, если перед колесами окажется пешеход. Стоит ли машине свернуть на отбойник, убив пассажиров, или пожертвовать пешеходом.

Побыть на месте искусственного интеллекта и решить сложную моральную дилемму можно с помощью приложения Moral Machine. Его создатели Ияд Рахван вместе с коллегами изучают проблему выбора для автопилота. Чья жизнь окажется для него важнее: стариков или детей, а если дети идут на красный свет, а старики по правилам, или может автопилоту не стоит щадить вообще никого.

Несмотря на то, что сценарии из их приложения пока еще гипотетические, в мире, заполненном автономным транспортом, такие решения будут приниматься ежедневно. Человек в такие моменты полагается на интуицию, если рядом велосипедист, подразумевается, что он может упасть, то же самое с пешеходом — человек непроизвольно выделяет больше места для них. В случае с автопилотами это означало бы, что при каждом появлении человека, автомобиль должен был бы ехать очень медленно.

Мегапроекты, которые меняют мир

Проблема наделения ИИ интуицией до сих пор не решена. Более того, решение, которое принимает автомобиль, не подразумевает возможности решения моральных конфликтов. При этом автопилот является активным участником вопроса кого убить, а кого оставить живым. Даже отказ от выбора в этом случае тоже выбор, говорит разработчик автопилотов Орен Этциони.

В большинстве случаев компании стараются уйти от таких вопросов. В Daimler рассказывая о новых моделях Mercedes, заявили, что автомобили будут любой ценой защищать жизни пассажиров, но после добавили, что пешеходам также нечего бояться. Компания работает над тем, чтобы подобные дилеммы были в принципе невозможны. Официально в Daimler не ставят пассажиров над пешеходами, но неявная предвзятость системы — вопрос более сложный.

У Google X был подход уменьшения рисков для пассажиров. Их автопилот в случае неизбежного столкновения должен выбрать меньший по размерам объект. Из фуры и легкового автомобиля для столкновения он выберет второй. Но не ясен момент с легковым автомобилем и детской коляской, например. Тут вновь начинаются сложные этические споры. Позже в Google рассказали о более сложной схеме: в первую очередь автомобиль постарается избежать столкновения с незащищенными объектами: пешеходы, велосипедисты, уже потом со всеми остальными. Такое решение уже может стать не популярным у тех, кто ждет от машины защиты при любом сценарии.

Экстази может стать лекарством

Американские регуляторы в свою очередь заявляют, что все участники движения должны быть уверены, что действия автопилотов полностью осознанные и прозрачные. Все механизмы их принятия должны быть раскрыты. Схожее мнение у скептика в вопросах беспилотников Вейна Симпсона. Он состоит в американском аналоге комитета по защите прав потребителей и считает, что пешеход должен точно знать, кто в приоритете у автопилота, когда на него с горы катится такой автомобиль. Другими словами, нормы должны быть четко обозначены, иначе производители сделают все, чтобы снять с себя любую ответственность за жизни людей.

В Ford призывают отказаться от чрезмерного философствования. В компании видят решение проблемы только в дисциплинированном инженерном подходе. Все же философские разговоры подразумевают, что автомобили уже имеют механизмы четкой детализации и могут различить одного человека от другого, но они не учитывают, что данные о конкретных людях могут быть искажены и в ближайшее время, по его мнению, никакие автопилоты не смогут принять полностью осознанного решения по поводу жизни и смерти.

Илон Маск будет под землей бороться с пробками

Несмотря на спорные моменты, связанные с автономным транспортом, он уже считается безопаснее того, которым управляет человек. По прогнозам, с введением автопилотов на дороги число дорожных происшествий должно снизиться на 90%. Убедиться в том, что автопилоты уже достаточно адекватны можно, посмотрев на мир глазами беспилотника Tesla.

Загрузка...