В конце мая 2021 года стало известно, что турецкий военный дрон выследил и атаковал человека без инструкций от пилота. Автономные боевые системы были запрограммированы на атаку целей без необходимости передачи данных между оператором и квадрокоптером. Рассказываем, как коптеры и другие автономные системы могут убивать.
Боевые роботы
Боевым роботом называют автоматическое устройство, заменяющее человека в боевых ситуациях или при работе в условиях, несовместимых с возможностями человека, в военных целях:
- разведка,
- боевые действия,
- разминирование.
Боевыми роботами являются не только автоматические устройства с антропоморфным действием, которые частично или полностью заменяют человека, но и действующие в воздушной и водной среде, не являющейся средой обитания человека (авиационные беспилотные с дистанционным управлением, подводные аппараты и надводные корабли).
Большинство боевых роботов являются устройствами телеприсутствия, и лишь очень немногие модели имеют возможность выполнять некоторые задачи автономно, без вмешательства оператора.
В Технологическом институте Джорджии под руководством профессора Хенрика Кристенсена разработаны напоминающие муравьев инсектоморфные роботы, способные обследовать здание на предмет наличия там врагов и мин-ловушек. Получили распространение в войсках и летающие роботы.
В 2015 году на военной базе морских пехотинцев Куантико в США были проведены испытания прототипа робота-собаки Spot, разработанного двумя годами ранее компанией Boston Dynamics для использования в войсках для разведки, патрулирования и переноски грузов.
Во время тестов робот обследовал помещения на предмет нахождения в них противника и передавал данные об обнаруженных целях на пульт оператора.
Как автопилот убивает людей
В апреле 2021 года в американском штате Техас произошла страшная авария. Автомобиль Tesla с двумя пассажирами вылетел с трассы на высокой скорости, врезался в дерево и начал гореть. Чтобы потушить возгорание, пожарным потребовалось 4 часа и более 120 тысяч литров воды. Впоследствии внутри автомобиля были найдены обгоревшие тела двух мужчин: первый сидел на пассажирском сиденье спереди, а второй — сзади.
За последние 5 лет произошло 7 смертельных аварий на автомобилях производителя, и в большинстве винят систему автопилота.
Сегодня на дорогах общего пользования можно встретить машины с функцией беспилотного управления третьего уровня автономности. Пока это максимум, до чего дошли автопроизводители.
SAE определяет уровень 3 как «условный автопилот». Разница между уровнем 2 и уровнем 3 — в степени. На практике это зависит от ответа на вопрос: насколько должен быть человек на сиденье водителя должен быть готов взять управление машиной на себя?
Кто виноват в ДТП с автопилотом?
В то же время в Великобритании готовится проект Vehicle Technology and Aviation Bill, в котором есть пункты касательно ДТП с участием беспилотного транспорта:
- Если в момент оформления страхового полиса страховая компания была проинформирована о том, что транспортное средство будет использоваться в режиме автопилота, то она несет полную ответственность по застрахованному авто.
- Если беспилотный автомобиль не застрахован, то в случае аварии ответственность будет нести автовладелец.
- Если аварийная ситуация возникла по причине сбоя в программном обеспечении или оборудовании, то вина ложится на плечи компании-производителя.
- Если авария стала следствием вмешательства автовладельца в ПО или собственник не выполнил указания производителя (например, не провел обновление программного обеспечения вовремя), то страховщик может взыскать страховую выплату с автовладельца.
Смерть на производстве
Роберт Уильямс стал первым человеком в истории, убитым роботом. Инцидент произошел на фабрике Ford в городе Флэт-Рок штата Мичиган 25 января 1979 года. Уильямс погиб от роботизированной руки весом в 1 тонну, которая его ударила, когда он пытался самостоятельно достать новую изготовленную деталь.
Задача роботизированной руки заключалась в перекладке новых деталей с одного места на другое. Однако накопившиеся ошибки в ПО, указывающие неправильную информацию о количестве деталей, находившихся в тот момент на стеллаже, заставили Уильямса самостоятельно подняться по лестнице и достать нужную деталь. В этот момент машина его и убила.
Расследование показало, что причиной гибели человека стала очень слабая техника безопасности на предприятии, и в том числе отсутствие предупреждающих звуковых сигналов, которые говорили бы об опасном присутствии человека. Компания выплатила семье погибшего 10 миллионов долларов.
Вышедшая из строя военная техника
16 сентября 2007 года в результате беспорядочной стрельбы, открытой сотрудниками американской частной охранной компании «Блэкуотер» на площади Нисур в Багдаде, погибли 17 и пострадали 20 иракских мирных жителей.
Сотрудники «Блэкуотера» находились в составе конвоя с дипломатами Государственного департамента США. Массовое убийство возмутило иракскую общественность и обострило отношения между Ираком и США.
В 2014 году четверо наемников предстали перед Федеральным судом США; один был осужден по обвинению в умышленном убийстве, еще трое в непредумышленном.
Сотрудники «Блэкуотера» утверждали, что конвой попал в засаду и они стреляли в целях защиты. Иракское правительство и следователь Фарис Саади Абдул доказывали, что никакой весомой причины для стрельбы не было. На следующий день у «Блэкуотера» была временно отозвана лицензия на деятельность в Ираке.
В официальном заявлении Госдепа США было сказано о «невинно убиенных» иракцах, Министерство обороны США также согласилось с тем, что в данном инциденте вина лежит на наемниках. Ирак настаивал на как можно более суровом наказании. Было начато не менее пяти расследований, одно из которых вело ФБР. В его ходе выяснилось, что сотрудниками ЧВК было убито 17 иракцев, из них 14 — без видимой причины
В числе предполагаемых причин «бунта» зенитного орудия назывались и сбой в программном обеспечении, и механические неисправности. Согласно комментариям представителей некоторых компаний, занимающихся производством оружия, подобный инцидент был далеко не единственным, и им уже приходилось сталкиваться с аналогичными ситуациями. Просто этот случай оказался первым, когда в таком инциденте погибли люди.
Роботы для борьбы с терроризмом
Террорист Мика Джонсон застрелил пять полицейских и ранил еще девятерых. После этого он попытался скрыться в колледже в Эль-Центро, где на входе убил еще одного офицера полиции и занял выжидающую позицию, чтобы убить еще несколько полицейских.
В течение последующих пяти часов полиция безрезультатно пыталась вести с Джонсоном переговоры, однако тот не желал сдаваться и угрожал взорвать несколько бомб.
В конечном итоге терпение у полиции закончилось, и офицеры предложили Джонсону два выбора: либо он сдается и выходит наружу с поднятыми руками, либо остается внутри и в таком случае полиция готова применить силу. Убийца решил выбрать второй вариант.
Вскоре преступник понял, какую силу имели в виду полицейские, когда те прицепили брикет взрывчатки C4 к руке робота и отправили последнего в подземную парковку колледжа, где прятался убийца. Операция прошла успешно. Это был первый случай, по крайней мере в полицейской практике, когда для устранения преступника использовался робот.
Читать далее
Боевой дрон впервые без приказа человека выследил противника и атаковал
Новый экзоскелет сокращает нагрузку для человека во время ходьбы
Математическая модель мозга позволит ИИ мыслить как человеку