Сообщить об ошибке на сайте
URL
Ошибка
Кибервооружение

В США был опубликован отчет бывшего сотрудника Пентагона Пола Шарре, который во время работы в Министерстве обороны готовил правила регулирования автономного вооружения. Теперь Шарре утверждает, что беспилотники и другие самоуправляемые системы неконтролируемы и опасны.

В последние годы дешевые умные датчики и новые возможности искусственного интеллекта открыли дорогу системам вооружения, которые принимают смертельные решения самостоятельно. Возможности так называемых роботов-убийц вызвали протесты и споры в ООН, а также требования ограничить развитие и использование подобных систем. Недавняя скандальная история с ошибкой алгоритма спутникового слежения Skynet, из-за которой могли быть убиты невинные люди, — яркий тому пример.

Пол Шарре сейчас руководит программой по исследованиям будущего в области вооружения в Центре новых подходов к охране безопасности США. С 2008 по 2013 годы он работал в Пентагоне и был одним из составителей директивы Департамента обороны, которая устанавливала правила использования беспилотного и автоматизированного вооружения.

В своем отчете он подчеркивает, что такие системы могут легко подвергнуться кибератаке, перехвату и другим манипуляциям сторонних агентов.

По мнению Шарре, автономному вооружению не хватает гибкости, которая есть у человека, поэтому оно не может подстраиваться под новую ситуацию и менять план действий.

Это приводит к высокой вероятности ошибки. В Центре новых подходов к охране безопасности США как раз исследует такие явления, когда компьютерные системы ведут себя непредсказуемо и приводят к сбоям и ошибкам как в оборонном, так и в коммерческом секторе.

Другая проблема автономного вооружения — это непрозрачность технологии искусственного интеллекта, сопряженной с машинным «зрением» и распознаванием речи. Если суммировать идеи Шарре, то они звучат так: машины ненадежны и подвержены дурному влиянию со стороны, и это может привести к катастрофическим последствиям.

В качестве альтернативы автономных системам Шарре предлагает тактику ведения боевых действий «Кентавр», которая, как можно понять из названия, подразумевает интеграцию человека и компьютера.

Автономное вооружение уже перестало быть фантастикой — Южная Корея создала самонаводящуюся пушку, которая установлена на демилитаризованной зоне между Северной и Южной Кореей. Также недавно Израиль представил беспилотное воздушное судно, которое может самостоятельно атаковать вражескую систему радаров.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Смерть Christie’s: Как криптовалюта меняет рынок искусства
Блокчейн
Тренды
Космонавт Олег Артемьев показал, как выглядит спутник, пролетающий мимо МКС
Почему «московий» и «оганесон» устроили раскол между физиками и химиками?
Кейсы
Инновационный конвертоплан совершил первый взлет под углом 80 градусов
Тренды
Ученые MIT разработали ультрамощный чип для управления крошечными беспилотными дронами
Тренды
В «Сколково» появился интернет-магазин услуг в области научных разработок
Тренды
40% пользователей за год удалили аккаунт хотя бы в одной социальной сети
Кейсы
Тренды
Секс-андроидов научили отказываться от интимных связей, если они не в настроении
Microsoft встроила искусственный интеллект в Windows 10
Тренды
Сэр Харшад Бадехиа — о бронежилетах будущего, русских математиках и металлургии
Тренды
Google представила искусственный интеллект для больниц. Он может предсказать смерть пациентов
Медицина будущего
Искусственный жир поможет водолазам находиться несколько часов в ледяной воде
Кейсы
«Надежнее золота»: блокчейн в цифрах
Блокчейн
Робопес SpotMini от Boston Dynamics прошелся по улицам Ганновера
Доброжелательные роботы
Бас Лансдорп, Mars One: «Моя жена отдала бы все, чтобы не лететь на Марс»
Полет на Марс
Как big data, блокчейн и 3D-печать сделали пищу полезнее
Мнения
Томас Циммерман, IBM, — о том, как остановить конец света, спасая планктон
Тренды
Без Siri, Алисы и «Окей, Google»: как и зачем нас подслушивают собственные телефоны
Тренды
Шрада Агарвал, Outcome Health: «Когда человек знает о своей болезни, от этого выигрывает и он, и фарма»
Мнения
Тренды
«Дорогая, я ухожу от тебя к роботу!»: заменят ли секс-андроиды реальные отношения?
7 правил для начинающих и разумных блокчейн-инвесторов
ICO
Четвертая революция: как интернет вещей изменит промышленность и нефтедобычу
Тренды
Не витайте в «облаках»: как провайдеры обманывают доверчивых клиентов
Мнения
Когда мы начнем летать на автомобилях в городе?
Тренды
Гендиректор Uber Дара Хосровшахи: «Автомобили должны ездить в трех измерениях»
Мнения
Кейсы
Как в Россию проникают технологии: интернет-рестораны, маникюр на дому и «умное» страхование
Олег Бабкин: «Системных администраторов никто не обучает, обучают только разработчиков»
Мнения
«Чтобы создать новое лекарство, нужно 10–12 лет и миллиард долларов»
Мнения
Сооснователь «Евросети» Тимур Артемьев: «Мы будем летать из Лондона в Сидней через космос. Так ближе»
Тренды
Новый стандарт рекламного рынка: что нужно знать о programmatic, чтобы рекламироваться эффективно
Тренды
Иван Горшунов, Etcetera, — о мобильных приложениях, стартапах и «внутренней девятиэтажке», которая мешает заглянуть за горизонт
Мнения
Билетный IT: как построить технологическую платформу вокруг билетного бизнеса
Кейсы
Cognitive Technologies: как российское бездорожье поможет искусственному интеллекту водить машины лучше, чем люди
Кейсы
Кейсы
10 предпринимателей — о том, как им помогают новые технологии в жизни и бизнесе
Don’t open the doors: как сделать игру из пластилина в одиночку (и привлечь инвестора на следующий проект)
Кейсы
Софт, бот, нейросеть: айтишники объясняют, почему не боятся автоматизации, роботизации и ИИ
Кейсы
Специалист по лучевой диагностике Сергей Морозов: искусственный интеллект возьмет на себя 30% функций врача и до 60% функций лаборантов
Мнения
Системный архитектор Алексей Усов — о Red Hat, международных стандартах, Linux и «Платоне»
Мнения
Microsoft впервые за три года обогнала Google по капитализации. Теперь компания — в тройке самых дорогих
Тренды
Сельское хозяйство
Российская компания представила систему, которая превращает любой трактор и комбайн в беспилотник
Массачусетский институт показал неопубликованное ранее видео из выступления Стива Джобса
Тренды
Антон Трантин, Pulsar VC: почему вашему стартапу не нужен блокчейн
Блокчейн
Одна распознает, другая проверяет, третья следит, чтобы никто не мухлевал: как нейронные сети работают над изображениями и видео
Тренды
«Ну как бы э-э-э»: почему Google Duplex — не прорыв
Тренды
Ростуризм предложил создать аналог Booking.com в России
Мнения
В Бурятии прошло новое тестирование почтовых дронов. На этот раз беспилотник не разбился
Тренды
Создатели Pokemon Go выпустят новую игру в 2018 году
Кейсы
Роман Аранин, Observer: «Мы не хотим делать инвалидные коляски уровня «Жигулей»
Мнения
Кейсы
Большинство популярных витаминов оказались бесполезными