Экс-сотрудник Пентагона выступил против роботов-убийц

В США был опубликован отчет бывшего сотрудника Пентагона Пола Шарре, который во время работы в Министерстве обороны готовил правила регулирования автономного вооружения. Теперь Шарре утверждает, что беспилотники и другие самоуправляемые системы неконтролируемы и опасны.

В последние годы дешевые умные датчики и новые возможности искусственного интеллекта открыли дорогу системам вооружения, которые принимают смертельные решения самостоятельно. Возможности так называемых роботов-убийц вызвали протесты и споры в ООН, а также требования ограничить развитие и использование подобных систем. Недавняя скандальная история с ошибкой алгоритма спутникового слежения Skynet, из-за которой могли быть убиты невинные люди, — яркий тому пример.

Пол Шарре сейчас руководит программой по исследованиям будущего в области вооружения в Центре новых подходов к охране безопасности США. С 2008 по 2013 годы он работал в Пентагоне и был одним из составителей директивы Департамента обороны, которая устанавливала правила использования беспилотного и автоматизированного вооружения.

В своем отчете он подчеркивает, что такие системы могут легко подвергнуться кибератаке, перехвату и другим манипуляциям сторонних агентов.

По мнению Шарре, автономному вооружению не хватает гибкости, которая есть у человека, поэтому оно не может подстраиваться под новую ситуацию и менять план действий.

Это приводит к высокой вероятности ошибки. В Центре новых подходов к охране безопасности США как раз исследует такие явления, когда компьютерные системы ведут себя непредсказуемо и приводят к сбоям и ошибкам как в оборонном, так и в коммерческом секторе.

Другая проблема автономного вооружения — это непрозрачность технологии искусственного интеллекта, сопряженной с машинным «зрением» и распознаванием речи. Если суммировать идеи Шарре, то они звучат так: машины ненадежны и подвержены дурному влиянию со стороны, и это может привести к катастрофическим последствиям.

В качестве альтернативы автономных системам Шарре предлагает тактику ведения боевых действий «Кентавр», которая, как можно понять из названия, подразумевает интеграцию человека и компьютера.

Автономное вооружение уже перестало быть фантастикой — Южная Корея создала самонаводящуюся пушку, которая установлена на демилитаризованной зоне между Северной и Южной Кореей. Также недавно Израиль представил беспилотное воздушное судно, которое может самостоятельно атаковать вражескую систему радаров.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Кофе может снизить риск смертности, но только в одном случае
Наука
Этот ядерный двигатель поможет быстрее долететь до Марса: как он работает
Космос
Запуск Falcon 9 завершился успехом: что было на борту миссии
Космос
Прототип Boom Supersonic XB-1 приблизился к звуковому барьеру
Новости
Ученые заглянули внутрь нейтронных звезд, используя квантовую физику
Космос
Квантовые симуляторы: объяснение от ученого
Мнения
Источник в СМИ назвал возможную причину сбоя рунета
Новости
Мошенники начали выдавать себя за начальников в рабочих чатах: как это работает
Новости
Холодные атомы этого металла могут создавать новые состояния материи
Наука
Древние артефакты в Украине раскрыли тайны навигации викингов
Наука
Послушайте, как звучат вспышки на Солнце: данные собрал Solar Orbiter  
Космос
Тяжелый беспилотник на водородных топливных ячейках впервые испытали в Китае
Новости
Ученые создали катализатор, который нарушает законы физики
Наука
Физики обнаружили необычные магнитные свойства в трехслойном графене
Наука
Биоинженеры создали ДНК-робота, который может менять форму искусственной клетки
Наука
«Горы» на нейтронных звездах могут вызывать рябь в пространстве-времени
Космос
На телах древних мумий из Перу нашли сложные узоры татуировок
Наука
У черной дыры прячется белый карлик, движущийся с половиной скорости света
Космос
Стартап из России разрабатывает нанопротез для восстановления поврежденных нервов
Наука
Генетики разгадали секреты выживания устойчивой к антибиотикам бактерии
Наука