Эксперт по ИИ: «Я пацифист, но я против запрета роботов-убийц»

Видеоролик о дронах-убийцах опубликовал Институт «Будущее жизни» — некоммерческая организация, одним из инвесторов которой выступает предприниматель Илон Маск. Ссылка под видео ведет на сайт с петицией о запрете использования роботизированных систем в оборонных целях.

Профессор компьютерных наук из Университета штата Аризона Суббарао Камбхампати считает видеоролик манипулятивным. Эксперт признает себя пацифистом и поддерживает ученых, которые выступают за этичное применение технологий искусственного интеллекта. Однако запрет военных роботов, по его мнению, — это исключительно символический жест.

В своей колонке Камбхампати объясняет, что запрет недостаточно четко устанавливает границы применения роботизированной военной техники. «Под запрет попадает автономность или интеллект? И хотелось бы понять, сможет ли запрет как-то повлиять на действия стран и отдельных лиц, которые не признают международные нормы права», — пишет ученый.

Часто ИИ-вооружение сопоставляют с ядерным оружием. Но Камбхампати подчеркивает разницу между двумя явлениями. Чтобы обзавестись ядерной бомбой, стране нужны материалы и оборудование, которые непросто достать и за которыми ведется контроль. ИИ-технологии уже давно открыты для общественности — к примеру, нейросети для распознавания лиц, которые используются в дронах-убийцах, можно найти в интернете.

Низкий порог вхождения в область ИИ-разработок делает их широкодоступными. Ограничить их злоупотребление при этом сложно. Как и в случае с кибертехнологиями, ИИ способен принести как пользу, так и вред.

Но даже если ООН и другие организации все-таки введут запрет, всегда найдутся государства и сообщества, которые не будут ему подчиняться. Как следствие — у одной стороны руки будут связаны, а у другой, напротив, будет весь арсенал ИИ-вооружения, действующий без каких-либо ограничений.

Как специалист по ИИ, Камбхампати также обеспокоен выпуском манипулятивных агитационных видеороликов, которые могут вызвать у общественности страх перед технологиями. «Это больше похоже на разжигание страха и ненависти, а не на повышение осведомленности», — замечает эксперт.

Камбхампати уверен, что запрет роботов-убийц лишен какого-либо смысла. Вместо этого ученый предлагает разрабатывать роботов-защитников, которые будут отслеживать угрозы и при необходимости устранять их.

В августе более 100 ведущих специалистов в области робототехники и ИИ направили в ООН письмо с просьбой ограничить разработку и использование автономного оружия. В число сторонников запрета вошли Илон Маск и сооснователь лаборатории DeepMind Мустафа Сулейман. В то же время некоторые аналитики выступили против запрета, назвав его бессмысленным и недальновидным. В качестве альтернативы они предложили ввести умеренное регулирование и искоренить предвзятость алгоритмов.