Роботы-убийцы: как техника атакует без приказа и кто ответит за жертвы

В конце мая 2021 года стало известно, что турецкий военный дрон выследил и атаковал человека без инструкций от пилота. Автономные боевые системы были запрограммированы на атаку целей без необходимости передачи данных между оператором и квадрокоптером. Рассказываем, как коптеры и другие автономные системы могут убивать.

Боевые роботы

Боевым роботом называют автоматическое устройство, заменяющее человека в боевых ситуациях или при работе в условиях, несовместимых с возможностями человека, в военных целях:

  • разведка,
  • боевые действия,
  • разминирование.

Боевыми роботами являются не только автоматические устройства с антропоморфным действием, которые частично или полностью заменяют человека, но и действующие в воздушной и водной среде, не являющейся средой обитания человека (авиационные беспилотные с дистанционным управлением, подводные аппараты и надводные корабли).

Большинство боевых роботов являются устройствами телеприсутствия, и лишь очень немногие модели имеют возможность выполнять некоторые задачи автономно, без вмешательства оператора.

В Технологическом институте Джорджии под руководством профессора Хенрика Кристенсена разработаны напоминающие муравьев инсектоморфные роботы, способные обследовать здание на предмет наличия там врагов и мин-ловушек. Получили распространение в войсках и летающие роботы.

В 2015 году на военной базе морских пехотинцев Куантико в США были проведены испытания прототипа робота-собаки Spot, разработанного двумя годами ранее компанией Boston Dynamics для использования в войсках для разведки, патрулирования и переноски грузов.

Во время тестов робот обследовал помещения на предмет нахождения в них противника и передавал данные об обнаруженных целях на пульт оператора.

Как автопилот убивает людей

В апреле 2021 года в американском штате Техас произошла страшная авария. Автомобиль Tesla с двумя пассажирами вылетел с трассы на высокой скорости, врезался в дерево и начал гореть. Чтобы потушить возгорание, пожарным потребовалось 4 часа и более 120 тысяч литров воды. Впоследствии внутри автомобиля были найдены обгоревшие тела двух мужчин: первый сидел на пассажирском сиденье спереди, а второй — сзади.

За последние 5 лет произошло 7 смертельных аварий на автомобилях производителя, и в большинстве винят систему автопилота.

Сегодня на дорогах общего пользования можно встретить машины с функцией беспилотного управления третьего уровня автономности. Пока это максимум, до чего дошли автопроизводители.

SAE определяет уровень 3 как «условный автопилот». Разница между уровнем 2 и уровнем 3 — в степени. На практике это зависит от ответа на вопрос: насколько должен быть человек на сиденье водителя должен быть готов взять управление машиной на себя?

Кто виноват в ДТП с автопилотом?

В то же время в Великобритании готовится проект Vehicle Technology and Aviation Bill, в котором есть пункты касательно ДТП с участием беспилотного транспорта:

  • Если в момент оформления страхового полиса страховая компания была проинформирована о том, что транспортное средство будет использоваться в режиме автопилота, то она несет полную ответственность по застрахованному авто.
  • Если беспилотный автомобиль не застрахован, то в случае аварии ответственность будет нести автовладелец.
  • Если аварийная ситуация возникла по причине сбоя в программном обеспечении или оборудовании, то вина ложится на плечи компании-производителя.
  • Если авария стала следствием вмешательства автовладельца в ПО или собственник не выполнил указания производителя (например, не провел обновление программного обеспечения вовремя), то страховщик может взыскать страховую выплату с автовладельца.

Смерть на производстве

Роберт Уильямс стал первым человеком в истории, убитым роботом. Инцидент произошел на фабрике Ford в городе Флэт-Рок штата Мичиган 25 января 1979 года. Уильямс погиб от роботизированной руки весом в 1 тонну, которая его ударила, когда он пытался самостоятельно достать новую изготовленную деталь.

Задача роботизированной руки заключалась в перекладке новых деталей с одного места на другое. Однако накопившиеся ошибки в ПО, указывающие неправильную информацию о количестве деталей, находившихся в тот момент на стеллаже, заставили Уильямса самостоятельно подняться по лестнице и достать нужную деталь. В этот момент машина его и убила.

Расследование показало, что причиной гибели человека стала очень слабая техника безопасности на предприятии, и в том числе отсутствие предупреждающих звуковых сигналов, которые говорили бы об опасном присутствии человека. Компания выплатила семье погибшего 10 миллионов долларов.

Вышедшая из строя военная техника

16 сентября 2007 года в результате беспорядочной стрельбы, открытой сотрудниками американской частной охранной компании «Блэкуотер» на площади Нисур в Багдаде, погибли 17 и пострадали 20 иракских мирных жителей.

Сотрудники «Блэкуотера» находились в составе конвоя с дипломатами Государственного департамента США. Массовое убийство возмутило иракскую общественность и обострило отношения между Ираком и США.

В 2014 году четверо наемников предстали перед Федеральным судом США; один был осужден по обвинению в умышленном убийстве, еще трое в непредумышленном.

Сотрудники «Блэкуотера» утверждали, что конвой попал в засаду и они стреляли в целях защиты. Иракское правительство и следователь Фарис Саади Абдул доказывали, что никакой весомой причины для стрельбы не было. На следующий день у «Блэкуотера» была временно отозвана лицензия на деятельность в Ираке.

В официальном заявлении Госдепа США было сказано о «невинно убиенных» иракцах, Министерство обороны США также согласилось с тем, что в данном инциденте вина лежит на наемниках. Ирак настаивал на как можно более суровом наказании. Было начато не менее пяти расследований, одно из которых вело ФБР. В его ходе выяснилось, что сотрудниками ЧВК было убито 17 иракцев, из них 14 — без видимой причины

В числе предполагаемых причин «бунта» зенитного орудия назывались и сбой в программном обеспечении, и механические неисправности. Согласно комментариям представителей некоторых компаний, занимающихся производством оружия, подобный инцидент был далеко не единственным, и им уже приходилось сталкиваться с аналогичными ситуациями. Просто этот случай оказался первым, когда в таком инциденте погибли люди.

Роботы для борьбы с терроризмом

Террорист Мика Джонсон застрелил пять полицейских и ранил еще девятерых. После этого он попытался скрыться в колледже в Эль-Центро, где на входе убил еще одного офицера полиции и занял выжидающую позицию, чтобы убить еще несколько полицейских.

В течение последующих пяти часов полиция безрезультатно пыталась вести с Джонсоном переговоры, однако тот не желал сдаваться и угрожал взорвать несколько бомб.

В конечном итоге терпение у полиции закончилось, и офицеры предложили Джонсону два выбора: либо он сдается и выходит наружу с поднятыми руками, либо остается внутри и в таком случае полиция готова применить силу. Убийца решил выбрать второй вариант.

Вскоре преступник понял, какую силу имели в виду полицейские, когда те прицепили брикет взрывчатки C4 к руке робота и отправили последнего в подземную парковку колледжа, где прятался убийца. Операция прошла успешно. Это был первый случай, по крайней мере в полицейской практике, когда для устранения преступника использовался робот.

Читать далее

Боевой дрон впервые без приказа человека выследил противника и атаковал

Новый экзоскелет сокращает нагрузку для человека во время ходьбы

Математическая модель мозга позволит ИИ мыслить как человеку

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Тайны древней звезды по соседству изучили, «подслушав ее песню»
Космос
Baidu делает ИИ для перевода звуков животных в человеческую речь
Наука
Оказалось, ИИ врет чаще при одном условии: как этого избежать
Новости
Суперкомпьютер Маска сжирает электричество как 300 000 домов: люди протестуют
Новости
Посмотрите, как робот стремительно отбивает подачи в настольном теннисе
Новости
Физики исполнили мечту алхимиков: свинец в коллайдере превратили в золото
Наука
Создано музыкальное приложение для реабилитации после инсульта
Наука
«Эффект аккордеона» превращает жесткий графен в эластичный материал
Наука
ИИ восстановил имя автора свитка, который пережил последний день Помпеи
Наука
Частный лунный модуль вышел на орбиту спутника после двух месяцев полета
Космос
Предок тираннозавра «иммигрировал» в Америку из Азии, считают ученые
Наука
Обновленный Gemini 2.5 Pro от Google возглавил рейтинг ИИ для разработчиков
Новости
Ученые решили проблему, которая мешала запуску термоядерных реакторов почти 70 лет
Наука
Китайское «супероружие» для подводных диверсий оказалось не таким, как считалось
Новости
Отключение мобильного интернета в Москве: какие последствия для бизнеса
Новости
Киберполиция назвала новые схемы мошенников: как они воруют аккаунты на «Госуслугах»
Новости
Хокинг предсказал гибель Земли: оказалось, НАСА сочло угрозу реальной
Наука
Создатель Ethereum признал свои ошибки и решил изменить криптовалюту
Новости
«Ред ОС 8» заработала на Arm-платформах — теперь и на «Байкале»
Новости
Компания Цукерберга использовала уязвимость подростков для рекламы
Новости