Германия готовится заложить этические нормы для беспилотных автомобилей, запретив искусственному интеллекту (ИИ) принимать решения, которые могут спасти жизни одних людей, причинив ущерб другим. Министр транспорта Германии Александр Добриндт обозначил основополагающие принципы, на которых будут основываться нормативно-правовые акты для беспилотных транспортных средств. Эти правила перекликаются с тремя законами робототехники Айзека Азимова. Автопроизводители должны будут обеспечить их соблюдение перед формальным принятием.
Три основных правила для беспилотников были высказаны Добриндтом в интервью Wirtschaftswoche и звучат следующим образом:
1. «Совершенно очевидно, что материальный ущерб будет всегда приоритетнее, чем вред, нанесенный физическому лицу».
2. «Не должно быть никакой классификации людей, например, по росту, возрасту и тому подобное».
3. «Если что-то случится, ответственность несет производитель».
Министр создал комиссию по этике, чтобы проработать детали с точки зрения регулирования, но приведенные выше правила послужат фундаментом для будущих законов, пишет Inverse.
«Глубокое обучение — ответ на все проблемы беспилотников»
Технологии
Может показаться, что третье правило предполагает полное отсутствие вмешательства водителя даже в случае экстренной ситуации на дороге и возлагает полную ответственность за ДТП на автопроизводителя. Однако Добриндт отмечает, что водителям в любом случае придется быть бдительными. Это может означать, вероятно, что им будет запрещено спать в автомобиле во время движения, но будет допустимо, например, читать книгу. Черный ящик покажет, кто управлял машиной во время аварии — автопилот или человек.
До сих пор существуют разногласия по поводу того, сколько внимания дороге во время движения должен уделять водитель. В Великобритании считают, что водитель постоянно должен следить за ситуацией на дороге, тогда как в американском штате Мичиган работают над тем, чтобы позволить беспилотникам перемещаться без всякого контроля со стороны человека.
Предложенные министерством транспорта Германии правила для беспилотных автомобилей кажутся довольно простыми, однако автопроизводителям еще предстоит решить вопрос о том, как обеспечить их выполнение ИИ, который в некоторых ситуациях может реагировать неожиданно. Ранее исследователь Стюарт Армстронг объяснил, что эффективнее обучить ИИ правилам через машинное обучение, нежели жестко запрограммировать изначально. Тем не менее, озвученные Добприндтом основы дают примерную картину того, каким в будущем может стать этический кодекс для ИИ, управляющего беспилотными машинами.