ИТ-лидеры, включая Илона Маска, требуют у ООН запретить военных роботов. Однако колумнист WIRED Том Саймонит считает, что запрет никому не принесет пользы. В своей колонке он объясняет, почему тотальное ограничение автономного вооружения невозможно и какие альтернативы запретам существуют.
Саймонит поясняет, что технически запретить военных роботов можно точно так же, как например, химическое или бактериологическое оружие. Однако в отличие от этих видов вооружения, ИИ-системы более разнообразны. Грань между управляемыми и полностью автономными видами оружия размыта — и этим пользуются многие страны. И будут пользоваться еще больше, потому что автономное вооружение обещает армиям такие преимущества, от которых сложно отказаться.
Власти отдельных стран отмечают, что в новых законах по ограничению автономного вооружения нет необходимости. Правительство Британии считает, что хватает и действующего международного права, а Минобороны США обещает применять автономные системы только под контролем человека. Но полный запрет в обеих странах считают бессмысленным.
8 наций, которым грозит вымирание
Мнения
С этим согласна и Ребекка Крутоф из Йельской школы права. По ее мнению, вместо борьбы за полный запрет «роботов-убийц» активистам стоит сделать упор на нормы регулирования, так как введение новых правил потребует времени. Крутоф предлагает дополнить Женевскую конвенцию и включить в нее наравне с запрещенными действиями со стороны военных непозволительные приемы со стороны роботов и автономной техники. Также следует определить, кто несет ответственность, если в результате сбоя ПО пострадают мирные жители.
Подобные случаи уже были. Согласно данным расследования Intercept, ошибка алгоритма спутникового слежения Skynet могла неверное определить потенциальных террористов и привести к уничтожению мирных граждан.
«Алгоритмам нельзя внушить представление о справедливости»
Мнения
Об опасностях ошибок и взломов в своем отчете писал бывший сотрудник Пентагона Пол Шарре, который во время работы в Министерстве обороны готовил правила регулирования автономного вооружения. По мнению Шарре, военным роботам, как и автономным системам в целом, не хватает гибкости. Из-за этого они не могут подстраиваться под меняющиеся обстоятельства и корректировать план действий. А это повышает вероятность ошибки.