«Запрет роботов-убийц не имеет смысла»

Саймонит поясняет, что технически запретить военных роботов можно точно так же, как например, химическое или бактериологическое оружие. Однако в отличие от этих видов вооружения, ИИ-системы более разнообразны. Грань между управляемыми и полностью автономными видами оружия размыта — и этим пользуются многие страны. И будут пользоваться еще больше, потому что автономное вооружение обещает армиям такие преимущества, от которых сложно отказаться.

Власти отдельных стран отмечают, что в новых законах по ограничению автономного вооружения нет необходимости. Правительство Британии считает, что хватает и действующего международного права, а Минобороны США обещает применять автономные системы только под контролем человека. Но полный запрет в обеих странах считают бессмысленным.

С этим согласна и Ребекка Крутоф из Йельской школы права. По ее мнению, вместо борьбы за полный запрет «роботов-убийц» активистам стоит сделать упор на нормы регулирования, так как введение новых правил потребует времени. Крутоф предлагает дополнить Женевскую конвенцию и включить в нее наравне с запрещенными действиями со стороны военных непозволительные приемы со стороны роботов и автономной техники. Также следует определить, кто несет ответственность, если в результате сбоя ПО пострадают мирные жители.

Подобные случаи уже были. Согласно данным расследования Intercept, ошибка алгоритма спутникового слежения Skynet могла неверное определить потенциальных террористов и привести к уничтожению мирных граждан.

Об опасностях ошибок и взломов в своем отчете писал бывший сотрудник Пентагона Пол Шарре, который во время работы в Министерстве обороны готовил правила регулирования автономного вооружения. По мнению Шарре, военным роботам, как и автономным системам в целом, не хватает гибкости. Из-за этого они не могут подстраиваться под меняющиеся обстоятельства и корректировать план действий. А это повышает вероятность ошибки.