Сообщить об ошибке на сайте
URL
Ошибка
Контроль и цензура

Помимо невинных и полезных применений, таких как борьба с вредителями, поиск новых лекарств и написание шуточных текстов, алгоритмы искусственного интеллекта и машинного обучения начали массово использоваться, в первую очередь, для наблюдения за людьми. Этот тренд стал особо заметен во второй половине 2017 года. Как в лучших антиутопиях XX века, присутствие «Большого брата» подается как необходимая мера по повышению безопасности и борьбе с терроризмом.

Системы слежки и наблюдения будут внедряться повсеместно под видом оборудования для умных городов. ФБР США уже располагает обширной базой данных с фотографиями 117 млн граждан. Китай вообще перестал стесняться и собирает не только фотографии, но и ДНК своих жителей. Сколько подобных случаев пока еще просто скрыто под грифом секретности, можно только догадываться. И если не забывать, что данные — это «новая нефть», станет очевидным, что слежка за частной жизнью целых наций обещает многомиллиардные прибыли тем, кто сможет этим правильно воспользоваться.

Око Саурона — это спутник

Уже не первое десятилетие жители больших городов попадают на записи камер видеонаблюдения, которые фиксируют почти каждый шаг. Но до сегодняшнего дня мы знали, что эту видеозапись будут просматривать только в том случае, если случится что-то противозаконное. Но с появлением ИИ, который способен проанализировать каждое видео, распознать на нем каждого человека, связать его изображение с аккаунтами в социальных сетях и хранить эту информацию бесконечно долго, идея о защищенности частной жизни попадает под сомнение.

В теории, если не пользоваться общественным транспортом, не бывать в центре города и не ходить в супермаркеты, от камер можно скрыться даже жителю мегаполиса. А уж если уехать из города, то и подавно: в маленьких поселках все камеры местные жители знают наперечет, а в особенно глухих местах даже нет интернета, чтобы данные с этих камер куда-то передать.

Но на практике скрыться от камер уже сегодня гораздо сложнее, чем мы думаем. Недавно на рынке появилась камера на основе ИИ под названием DNNCam, которая может работать без интернета и практически «не убиваема», а также миниатюрная камера Caply размером с флешку.

Вполне вероятно, что нас ждет будущее по сценарию фильма «Сфера», в котором повсюду установлены мини-камеры, которые можно просто приклеить к дереву или стене. Характерно, что кульминацией фильма стал эпизод, когда во время очередной презентации пользователи «Сферы» сначала находят преступницу за 10 минут, но затем, когда они пытаются найти обычного человека без аккаунта в социальных сетях, он погибает в автокатастрофе, пытаясь скрыться от камер, установленных на дронах.

Но камеры, установленные повсюду, представляют собой только часть проблемы. Серьезнее то, что уже появился гораздо более простой способ получать изображение с улиц: высокоточные спутниковые данные. Например, спутники компании DigitalGlobe могут фотографировать объекты на поверхности Земли в мельчайших деталях. Система способна разглядеть даже книгу на столе.

Что хуже, в прошлом году DigitalGlobe заключила партнерское соглашение с Amazon, подразделением ЦРУ CosmiQ Works и Nvidia. Все они вложат громадные средства, чтобы обучить ИИ распознавать объекты и лица на спутниковых снимках. Мрачный прогноз «Сферы» на фоне этого — детская страшилка.

Обмани меня

Казалось бы, раз вопрос стоит настолько остро, почему бы жителям мегаполисов просто не носить головные уборы, солнечные очки или медицинские маски, как в Азии? Закрывают же автолюбители свои номера от камер, снимающих нарушения ПДД. Но все не так просто. Благодаря новым технологиям человека можно опознать и другими способами.

Например, ученые из Университета Центральной Флориды и Университета Карнеги-Меллон разработали технологию, которая может идентифицировать человека не по лицу целиком, а по его отдельным частям — глазам, носу или рту. Разработка ученых решила проблему «закрытого лица», когда для распознавания есть помехи, например, если лицо закрыто рукой, что было особенно сложным, так как рука и лицо похожи по цвету и текстуре. А ученые из Гонконгского баптистского университета научили ИИ распознавать человека по движениям губ.

Но даже если человеку удастся полностью скрыть лицо от камер, система все равно его распознает. В Китае создали метод, способный идентифицировать человека по походке с 50 метров за долю секунды. Благодаря технологии анализа в реальном времени обнаружить человека можно даже в большой толпе.

Но и это еще не все. Стартап Evolv Technology разработал микроволновые сканеры с ИИ, которые могут досматривать людей без их ведома, пока они просто проходят мимо. Теоретически разработка предназначена для аэропортов, чтобы экономить время пассажиров, но нет никакой гарантии, что ее не будут использовать для контроля за гражданами.

Слишком умный дом

Угрозу конфиденциальности несут не только привычные меры наблюдения в общественных местах. Благодаря «удобным» технологиям сбываются самые худшие опасения в духе Замятина и Оруэлла о тотальном контроле над людьми прямо у них дома. Умные звонки и умные замки расскажут, кто и когда посещал квартиру, IoT-счетчики выдадут количество израсходованных воды и электричества, а виртуальные помощники сохранят на своих серверах улики.

Например, умная камера Kuna Systems с помощью ИИ непрерывно оценивает все, что находится в ее поле зрения. Устройство умеет распознавать подозрительное поведение и призвано защитить владельца от краж. Однако это работает и в обратную сторону: устройство способно шпионить за хозяином. В случае, если он сам совершает преступление, умная камера не будет молчать и также заявит в полицию. Создатели говорят, что это будет использоваться только в случае особо тяжких преступлений. Но что если система будет отслеживать и менее ясные случаи, например, «непатриотичное» или «потенциально опасное» поведение? Предмет контроля не так важен: важен сам факт возможности подобной слежки.

Многие современные устройства могут выступать в качестве свидетелей, причем совершенно случайно. Это произошло с колонкой Amazon Echo, которая находилась в доме предполагаемого преступника. Полиция сочла аудиоданные на устройстве потенциальными уликами. Также в ночь предполагаемого убийства в доме умные счетчики воды зарегистрировали расход более 500 литров. Предполагается, что так преступник пытался отмыть следы крови и замести следы преступления.

Марк Макардл, технический директор канадской компании eSentire говорит о том, что людям придется смириться с угрозой потери конфиденциальности, которую несут с собой устройства умного дома. Шпионами становятся смартфоны, финтес-трекеры и даже кардиостимуляторы.

На службе у государства

Правоохранительные органы все чаще стремятся использовать цифровые данные для предотвращения преступлений или терроризма. Немецкий Бундестаг недавно принял закон, который предоставляет правоохранительным органам возможность взламывать любые устройства, принадлежащие подозреваемым в совершении преступления, причем не только связанного с терроризмом. По данным Deutsche Welle, немецкие правоохранительные органы уже закупили ПО, необходимое для взлома устройств на iOS, Android и BlackBerry.

Департамент транспорта Нью-Йорка объявил, что он совершил более четырех тысяч арестов, используя технологию распознавания лиц. Вместо сканирования полицейских кадров, алгоритм сравнивает фотографии на водительских правах с изображениями из баз данных, что усложняет подделку личности мошенниками. Полиция вскоре сможет получить доступ к изображениям половины взрослых американцев через базы данных, вроде DMV.

Компания Axon, крупнейший поставщик нательных камер для полиции США, также планирует внедрять ИИ, в частности, для автоматизации полицейских отчетов. А Motorola, еще один крупный поставщик видеокамер, предлагает ИИ для идентификации лиц во время поиска пропавших детей.

Черное зеркало

Главы государств обещают, что большие данные и ИИ будут использоваться только для защиты от правонарушений, а тотальная слежка никогда не будет использована в ущерб личной свободе граждан.

Однако в Китае тестируют систему социальных кредитов, в которой гражданам присуждают или снимают баллы в зависимости от их поступков. За нарушение ПДД и жалобы в интернете рейтинг снижают, за помощь соседям и следование плану партии — прибавляют. Как сообщает официальный сайт рейтинговой системы, с помощью анализа больших данных власти учитывают 160 тыс. различных параметров. Сведения собирают по разным государственным ведомствам, а также через доносы. Доносы, кстати, поощряются баллами, а в городе даже есть штат наблюдателей, которые следят за людьми. Кроме доносов и данных государственных и муниципальных структур, сведения будут поставлять восемь частных компаний. Среди них такие гиганты, как Alibaba и Tencent.

Нарушителей порядка будут наказывать и ограничивать, в том числе и в бытовых правах. Так, обладатели низкого рейтинга не смогут пользоваться спальными вагонами поездов и летать первым классом, а также снимать номера в дорогих отелях, отдавать детей в элитные школы и ездить за границу. На роль главного судьи Госсовет назначил Коммунистическую партию КНР.

Ситуация напоминает первую серию последнего сезона «Черного зеркала», в которой жизнь человека полностью подчиняется его рейтингу в соцсети. Наличие популярных друзей, дружелюбие и общительность открывают новые двери, а неудачи в социальной жизни перекрывают все возможности. Разница только в том, что герои сериала точно знают, за что и почему им присудили или сняли баллы. В Китае все не так однозначно, потому что точные правила проставления рейтингов нигде не зафиксированы.

Китай в стремлении к тотальному контролю и цензуре пошел еще дальше: он намерен создать самую крупную в мире базу биометрических данных граждан. Сбор информации давно перестал быть добровольным. По данным Human Rights Watch, в Синьцзян-Уйгурском автономном районе образцы ДНК, отпечатки пальцев и сканы радужки у жителей собирают в принудительном порядке. Процедуру проводят как часть бесплатного медобследования, после чего сведения передают полиции. Наличие генетических данных позволяет отслеживать не только самого человека, но и его родственников. Полиция заявила, что отслеживает «фокусные группы подозрительных граждан». К этой категории, как выяснила HRW, в первую очередь попадают мигранты, диссиденты и уйгуры-мусульмане.

Понятие приватности в этих условиях становится относительным — скрыться от постоянной слежки практически невозможно, а с внедрением искусственного интеллекта людям будет все сложнее оставаться анонимными. Интересная жизнь в этом смысле у нас всех только начинается.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Как водород поможет горнякам: энергобезопасность, автономность шахт и альтернатива дизелю
Тренды
Телемедицина в гаджетах: смарт-браслеты, киоски для онлайн-консультаций и камеры слежения за пожилыми
Тренды
Дмитрий Филатов, Sistema_VC: стартапы — это в первую очередь про людей, а во вторую — про деньги
Мнения
Эра Data Science: как меняется бизнес с приходом big data и новых технологий
Тренды
Народ против транспорта: почему люди недовольны, когда в городах строят новые станции метро
Идеи
Кейсы
«Лиза Алерт»: как беспилотники и краудсорсинг помогают искать пропавших людей
Беспилотники против велосипедистов: как безопасные автомобили сделают жизнь людей хуже
Идеи
SONM: как люди будут зарабатывать на собственных компьютерах с помощью блокчейна
Кейсы
Егор Матешук, ostrovok.ru: проблемы big data можно решить, закидывая пачки денег в топку
Мнения
Художник-граффитист Миша Most: технология — это кисть, которая создает будущее
Мнения
Лунная гонка: как мировые державы собираются присвоить себе спутник Земли
Идеи
Тренды
Итоги Нобелевской недели. За что дали Нобелевскую премию в 2018 году?
Руслан Шагалеев, Иннополис: война между корпорациями и городами ведется за человеческий капитал
Идеи
Кристина Хаверкамп, DENA: цена на электроэнергию должна сильнее коррелировать c погодой: много солнца и ветра — дешево, мало — дорого
Тренды
Тренды
7 лучших книг о технологиях и науке на русском языке, вышедших в 2018 году
Микрореволюция: фермеры с помощью микробов спасут мир от голода
Идеи
Александр Тормасов, Университет Иннополис: мозги людей могут быть совершенно не готовы к восприятию новых идей
Мнения
Одежда, которая поможет миру: костюм-помощник, майка-тренер и носок-няня
Тренды
В ожидании первого удара: как США готовятся к атаке со стороны России и Китая
Тренды
Страшнее метана: какие еще промышленные выбросы разрушают озоновый слой
Тренды
Интеллект большого города: как данные и умные алгоритмы улучшают качество жизни в мегаполисах
Тренды
На защите европейцев: как GDPR стал дырой в бюджете российских ИТ-компаний
Мнения
Игорь Балк, Global Innovation Labs: в XXI веке приватности нет и не будет
Тренды
Deneum: как заниматься холодным ядерным синтезом и бороться с сомнениями ученых
Кейсы
Расист, оружие и предвзятый судья — каким станет искусственный интеллект в будущем
Тренды
На совести информаторов: как громкие скандалы вокруг АНБ, Facebook и Tesla изменили мир
Тренды
NativeOS: нативная реклама в видео без репутационных потерь и терроризма от режиссера короткометражек
Кейсы
Тренды
Тихий убийца: как микропластик вызывает болезни и останавливает репродукцию живых организмов
Гонка для JavaScript-разработчиков: как постоянные обновления мешают работе
Тренды
Big data на страже здоровья: как и зачем медицинские организации собирают и хранят данные
Тренды
Николь Миллс, Booking.com — об инновациях, agile-подходе и индустрии впечатлений
Кейсы
Слишком опасный нанопластик: как одноразовые пакеты превращаются в частицы-убийцы
Тренды
Идеи
Человек и квантовая теория: существует ли то, что мы не наблюдаем
Здесь может быть ваша реклама: НАСА планирует заработать на космосе миллионы
Тренды
Опасный криптотрейдинг: как киберпреступники угрожают виртуальным сбережениям и биржам
Тренды
Тренды
Как через 20 лет будет выглядеть армия будущего
5 финансовых инструментов, которые помогут инвесторам даже после падения криптовалюты
Тренды
Александр Лямин, Qrator Labs: наша задача — выработать у людей цифровую гигиену, чтобы они «не ели с помойки»
Кейсы
Эдуард Фош Вильяронга: люди видят в роботе только внешность, забывая, что он следит за ними
Тренды
Доктор Куэй Во-Райнард, HIT Foundation: если страна требует суверенитета данных, мы построим для нее отдельный блокчейн
Кейсы
«Хакинтош»: как собрать свой собственный Mac лучше, чем у Apple
Идеи
Роботы против мигрантов: какой вклад в ксенофобию и расизм делают технологии ИИ
Тренды
Война скриптов — искусственный интеллект против навязчивой рекламы
Тренды
Как заново изобрести супермаркет: осознанность потребления, этика производства и роботы
Тренды
Каждый человек станет сам себе банком: цифровой мир отказывается от посредников между бизнесом и клиентом
Тренды
Архитектор вычислительной инфраструктуры «Платона» Александр Варламов — о будущем ИТ-индустрии в России, стартапах и разработке
Кейсы
Дмитрий Богданов, капитан сборной России по CS:GO — о стиле жизни киберспортсмена, тренировках и блокировках РКН
Тренды
Идеи
Космос — наш дом: что осталось решить ученым, чтобы поселить человека за пределами Земли
Прайсинг, трекинг, скоринг, биллинг и другие технологии, которые двигают российский бизнес
Тренды