Технологии автономного оружия, способные преследовать и убивать людей без контроля со стороны оператора, существуют уже сегодня. ООН вслед за многими учеными настоятельно рекомендует запретить их. The Guardian рассказывает об агитационном фильме против роботов-убийц, который будет показан в ООН в рамках кампании по их запрету.
В фильме изображено жестокое будущее. Военная фирма создает крошечного дрона, который охотится и убивает с безжалостной эффективностью. Но когда технология попадает в чужие руки, наступает хаос: политиков и активистов убивают среди бела дня. Это короткое, тревожное кино — последняя попытка заинтересованных ученых подчеркнуть опасность развития автономного оружия. По их мнению, чтобы предотвратить появление нового ужасного оружия массового уничтожения, необходимо уже сейчас запретить технологию.
Стюарт Рассел, сотрудник Калифорнийского университета в Беркли — один из тех, кто покажет этот фильм на мероприятии в рамках Конвенции ООН об обычных вооружениях. По его мнению, появление беспилотных дронов-убийц, а также танков и пулеметов, не требующих управления человеком, будет разрушительным для безопасности и свободы населения Земли. Времени, чтобы остановить их развитие, остается все меньше, ведь все необходимые технологии уже существуют. Создать робота-убийцу куда проще, чем беспилотный автомобиль, так что фильмы о них — уже не научная фантастика.
«Мы приближаемся к концу автомобильной эры»
Мнения
Военные всегда были среди крупнейших спонсоров и потребителей инноваций в области искусственного интеллекта. Среди последних перспективных разработок в этой области — использование технологий поиска цели и распознавания изображений. Военные беспилотники уже довольно давно используются для удаленных операций, но скоро им на смену может прийти оружие, не требующее контроля человека. Противники подобных технологий считают, что отдавать роботам решения о жизни и смерти людей — значит пересекать моральную черту.
Другая опасность заключается в то, что ИИ становится все более дешевым, так что автономное оружие может стать объектом массового производства. Так оно легко попадет в руки стран-изгоев или террористов, которые могут использовать роботов-убийц для подавления протестующих или атак на гражданское население. Договор о запрете автономного оружия будет препятствовать его крупномасштабному производству.
В свое время ученым удалось убедить президентов Линдона Джонсона и Ричарда Никсона свернуть американскую программу по разработке биологического оружия и принять Конвенцию о биологическом оружии. Возможно, борьба против роботов-убийц, в которой используются сходные аргументы, также сможет привести к успеху. В августе более 100 ведущих специалистов в области робототехники и ИИ призвали ООН запретить разработку и использование автономного оружия. Среди подписавших письмо — Илон Маск и Мустафа Сулейман, глава подразделения Alphabet по глубокому изучению искусственного интеллекта.
«Супербактерии убьют нас раньше, чем климатические изменения»
Мнения
За запрет также высказались 19 стран, включая Аргентину, Пакистан и Египет. Однако многие другие государства, по данным кампании за запрет боевых роботов, стремятся к созданию систем автономного оружия. Среди них США, Китай, Россия, Израиль, Южная Корея и Великобритания. Соединенное Королевство в 2015 году активно выступило против запрета на роботов-убийц, заявив, что существующего международного права достаточно для регуляции автономного оружия. В этом году правительство страны издало доктрину, подтверждающую приверженность Великобритании принципу контроля человеком любого оружия.