Сообщить об ошибке на сайте
URL
Ошибка
Роботы против террористов

Алгоритм машинного обучения, лежащий в основе американской программы спутникового слежения Skynet, был создан, чтобы вычислять террористов и ликвидировать угрозу с помощью дронов или отрядов специального назначения. Обкатка программы уже несколько лет идет на жителях Пакистана. Согласно новым исследованиям опубликованных Эдвардом Сноуденом документов, этот алгоритм мог стать причиной гибели множества ни в чем не виновных пакистанцев.

Skynet работает как обычное бизнес-приложение по обработке больших данных — собирает метаданные и хранит их на облачном сервере, выделяет релевантную информацию и использует машинное обучение, чтобы находить целевые группы. За одним исключением: вместо того, чтобы продать целевой группе какой-то товар или услугу, программа дает наводку силовым структурам — ЦРУ или Пентагону. А те приводят в исполнение стратегию «Find-Fix-Finish» (найти, установить контакт, уничтожить) с помощью дронов Predator и мобильных отрядов смерти.

В дополнении к данным сотовой связи (время, продолжительность, адресат звонка и т. п.), Skynet собирает сведения о местоположении пользователя, что позволяет составить подробный план перемещений человека.

Выключение мобильника считается попыткой уйти от наблюдения.

Те, кто меняет SIM-карты, наивно полагая, что это помешает их найти, тоже отмечаются (благодаря кодам ESN/MEID/IMEI, вшитым в сам аппарат).

Даже смена мобильного телефона попадает в фокус внимания. Можно предположить, что подозрение вызывает наличие других метаданных при отсутствии звонков, например, местонахождение и активность в социальных сетях.

В результате в базе накапливаются самые разнообразные данные, и Skynet постепенно объединяет в группы тех, кто так или иначе знаком, проводит друг с другом время, вместе путешествует, посещает другие страны. Всего алгоритм использует более 80 различных критериев оценки потенциальной причастности конкретного человека к террористическим группировкам.

В Пакистане проживает 192 млн. человек, из них — 120 млн пользуются мобильными телефонами. Считается, что АНБ анализирует данные с 55 млн. телефонов только в этой стране.

Вся эта программа основана на предположении, что поведение террориста существенно отличается от поведения законопослушного гражданина.

Однако, разоблачительный материал новостного агентства The Intercept показал, что крайне подозрительным и потенциально опасным, согласно критериям Skynet, является Ахмад Зайдан, руководитель отделения телекомпании Аль-Джазира в Стамбуле, который по долгу службы часто ездит по региону и общается с мятежниками.

Обучение машины требует большого количества примеров. Так, если речь идет о спам-фильтре, мы должны отметить письма, которые точно не спам, и те, которые точно спам. К сожалению, эта же тактика не работает в случае с террористами, потому что известных террористов слишком мало, а настоящие едва ли захотят отвечать на вопросы анкетирования.

Алгоритм классификации Skynet анализирует метаданные и выдает каждому субъекту балл — чем он выше, тем больше вероятность террористической деятельности. Для этого используется известный алгоритм Random Forest. Затем Skynet устанавливает пороговое значение, выше которого субъект считается «террористом».

Однако, и выше этого порога могут быть «ложно положительные» террористы.

«Они делают так по потому, — объясняет аналитик и исполнительный директор Human Rights Data Analysis Group Патрик Болл, — что чем меньше у них будет „ложно отрицательных“, тем с неизбежностью будет больше „ложно положительных“. Это соотношение не симметрично: есть так много „истинно отрицательных“, что понижение порога для сокращения числа „ложно отрицательных“ на 1 означает увеличение количества „ложно положительных“ на несколько тысяч человек».

По словам представителя АНБ, «статистические алгоритмы были бы способны найти агентов террористических ячеек при очень низком уровне ложной тревоги, если бы нам было позволено упускать половину из них».

Проблема, по словам Болла, в том, что АНБ обучает алгоритмы Skynet на основании 100 000 случайно выбранных людей и известной группы из семи террористов. Шесть из них объективно идентифицированы разведкой как террористы. Машина должна изучить этих шестерых и самостоятельно на основе гигантского массива данных найти седьмого.

Выбрав всего 100 тысяч случайных человек, невозможно добиться правильных результатов, считает Болл, потому что их меньше, чем 0,1 % от всего населения страны. Плотность социального графа значительно сокращена, тогда как кластер «террористов» остался тесно связанным. Чтобы алгоритм был научно верным, АНБ должно было перемешать террористов с населением до случайной выборки — но это непрактично ввиду их малого числа.

Проблема кажется чисто математической, но Болл утверждает, что она портит качество результатов и снижает точность идентификации человека как террориста.

Оптимисты из АНБ уверяют, что число «ложных положительных» результатов идентификации непричастных людей как террористов не превышает 0,008 процента. Много это или мало в применении к тем, кого Skynet считает потенциальными террористами, знает только АНБ. Правозащитники считают, что речь идет об ошибке, которая в масштабах только одного Пакистана может стоить жизни десяткам и даже сотням непричастных к террористической деятельности.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Энди Рубин: «ИИ-смартфон станет виртуальной копией пользователя»
Мнения
«Дни двигателя внутреннего сгорания сочтены»
Транспорт будущего
Wal-Mart запатентовала летающий склад-дирижабль
Идеи
Один день на крупнейшей в мире китайской биткойн-шахте
Криптовалюты
Образование
Несовершеннолетний биткойн-миллионер предложил реформу образования
ИИ научился видеть скрытые аналогии
Обучение машин
В России разработано оптоволокно с квадратной сердцевиной
Оптика
«Блокчейн передаст власть над играми в руки геймеров»
Технологии игр
В Китае начал работу киберсуд по интернет-делам
Идеи
Распознавание речи
Система распознавания речи Microsoft установила новый рекорд
ИИ научился считывать намерения людей
Искусственный интеллект
Возобновляемая энергетика принесла экономике США до $113 млрд
Чистая энергетика
Facebook запатентует очки дополненной реальности
Тренды
NuTonomy запустит в Сингапуре сервис роботакси в 2018 году
Беспилотные автомобили
Южная Корея построит в Египте гигантскую умную ферму за $10 млрд
Тренды
Испытан первый в мире электрогенератор на океанических течениях
Возобновляемая энергетика
Мнения
«Алгоритмам нельзя внушить представление о справедливости»
Sony поможет новичкам разрабатывать ИИ
Искусственный интеллект
«ИИ будет двигателем четвертой технологической революции»
Кейсы
Стартап Made in Space напечатал радиационный щит прямо на борту МКС
Обитаемый космос
В 2018 году мировая солнечная энергетика прибавит 100 ГВт
Мнения
Термомагнитная стимуляция мозга заставила мышей двигаться против воли
Идеи
В Шотландии построят самую большую в регионе солнечную электростанцию
Солнечная энергетика
Глава Ford: «До полноценных робомобилей пока далеко»
Мнения
Искусственная матка будет создана после 2020 года
Идеи
Комиссия по ценным бумагам и биржам США будет регулировать ICO
Криптовалюты
Тренды
Все, что нужно знать про биткойн
Берлинский финтех-стартап помог европейцам инвестировать €4 млрд
Финансовые стартапы
Правительство Австралии установит контроль над обменниками криптовалют
Криптовалюты
Изобретена резина, которая не боится проколов
Новые материалы
Разработан метод стирания страшных воспоминаний
Идеи
Тайвань просит Tesla построить на острове хранилище энергии
Хранение энергии
Военные дроны
Оружейная компания установила на квадрокоптер пулемет
США установили рекорд по числу проданных роботов
Кейсы
Toyota запатентовала невидимые боковые стойки
Автомобили будущего
Идеи
Солнечные стеклоблоки обещают революцию в строительстве
В Казани пройдет IoT World Summit Russia 2017
Тренды
Hyundai представила водородный кроссовер нового поколения
Электромобили
Микроботы с антибиотиками вылечили желудочную инфекцию
Идеи
Nikola Motor займется солнечными панелями в подражание Tesla
Тренды
Fiat Chrysler вошел в консорциум по разработке робомобилей
Беспилотный транспорт
На орбите Земли появятся биткоин-спутники
Биткоины
Ричард Брэнсон: «Государства способны платить людям БОД»
Мнения
Идеи
Гидропонная ферма выращивает 54 тонны томатов в неделю
Китай отказался от строительства угольных электростанций на 150 ГВт
Кейсы
iPhone сможет проводить экскурсии в AR
Тренды
Разработчики приложений для Alexa начнут получать за них деньги
Кейсы
Pelecoin теперь позволяет майнить сразу несколько криптовалют
Криптовалюты
В Швейцарии начнут продавать бургеры из насекомых
Еда будущего
Электромотоциклы
Концерн «Калашников» представил электромотоцикл для полиции
Почему в Японии не боятся роботов, отнимающих рабочие места
Роботизация
Рынок хранения электроэнергии в США вырастет в десять раз к 2020 году
Хранение энергии