Как технологии меняют законодательство и правопорядок

Робомобили: закон и порядок

Первая авария со смертельным исходом с участием электрокара Tesla Model S в режиме автопилота вызвала бурную дискуссию о регулировании робомобилей. Сторонники беспилотных автомобилей, включая главу Tesla Илона Маска, подчеркивают, что 94% аварий происходит по вине человека, поэтому исключение человека из процесса вождения приведет к сокращению числа ДТП. Однако регуляторы некоторых стран, например, Министерство транспорта Германии, после инцидента признало электрокары с функцией автопилота угрозой движению.

На родине Tesla в США, где и произошел первый смертельный инцидент, местный регулятор NHTSA отреагировал на удивление адекватно. Представители управления подчеркнули, что не остановят прогресс из-за одной аварии. Более того, регулятор посоветовал не ждать, пока автомобили достигнут безупречности, а учиться на ошибках и внимательно анализировать каждый случай ДТП.

Несмотря на здравую оценку, законодательство в сфере беспилотников развивается медленно — в этом убеждены 86% американцев. Разумеется, так считают и производители автомобилей, которые пока вынуждены мириться с ограничениями. Все робомобили должны выезжать на дороги только в сопровождении оператора, готового взять управление на себя. Также автопроизводители не имеют право выпускать машины без руля и некоторых других компонентов управления. Впрочем, компания Ford собирается в 2021 году начать тестировать беспилотные автомобили без руля, педалей газа и тормоза.

Несмотря на ригидность права, динамика в США скорее позитивная. В сентябре Министерство транспорта США представило список из 15 пунктов для проверки безопасности беспилотников. В него вошли такие показатели, как кибербезопасность, удобный интерфейс, аварийная ударопрочность и способность машины осознавать этические последствия своих действий.

Другой прорыв состоялся в декабре, когда в штате Мичиган ввели закон, позволяющий использовать беспилотники без оператора за рулем. В 2017 году эту идею, вероятно, поддержат и другие штаты. Однако пока что новые возможности доступны только автопроизводителям, а не ИТ-компаниям, что существенно сдерживает развитие беспилотных технологий.

Были и откровенные провалы — например, неудачный запуск беспилотных такси Uber в Сан-Франциско после довольно успешной череды испытаний в Питтсбурге. Компания тратит сотни тысяч долларов в год на лоббирование собственных интересов, и при этом не считает нужным получить официальное разрешение на испытания робомобилей от властей штата.

Ожидания: Пока что существующие автомобили не достигли пятого уровня автономности, но это событие уже не за горами. В то же время, как отмечают представители Ford и доказывает недавнее исследование Volvo, полуавтономные системы представляют большую угрозу безопасности, чем системы полного автопилотирования. Тем не менее, развитие будет поступательным — от систем автопилота все более высокого уровня до полной автономности.

В 2017 году стоит ожидать новых поправок в законы о беспилотниках и новых сообщений об авариях с участием робомобилей. Некоторые страны, например, Норвегия, впервые начнут тестировать на дорогах беспилотники. Несмотря на проблемы Uber с законом, компания продолжит испытывать беспилотные такси, а конкуренцию ей составят и другие стартапы.

Широкое распространение может получить оборудование, наделяющее обычную машину функциями автопилота. Впрочем, в 2016 году стартап известного хакера Джорджа Хоца CommaAI, который занимался именно такими разработками, остановил выпуск продукта под давлением регулятора.

Гаджеты -свидетели

В 2016 году гаджеты перестали быть лишь инструментами коммуникации и развлечений, они стали свидетелями по криминальным делам. Первым и наиболее резонансным событием в цепочке историй стало противостояние Apple и ФБР. В феврале американские спецслужбы через суд потребовали у компании специальную прошивку для разблокировки айфона Сайеда Фарука — стрелка, совершившего теракт в Сан-Бернардино в декабре 2015 года. Компания отказалась выполнять эти условия, а в сети разгорелись споры по поводу законности подобных требований и угрозы, которую несет их исполнение. Однако в марте Министерство юстиции США сообщило, что доступ к айфону стрелка из Сан-Бернардино удалось получить и без участия Apple.

В июле полицейские из штата Мичиган напечатали на 3D-принтере копии пальцев убитого человека, чтобы получить доступ к его айфону по отпечатку. Хотя в данном случае дело касалось убитого, а не подозреваемого, подобная методика вызвала беспокойство по поводу спектра возможностей правоохранительных органов.

В 2016 году ситуацию обострили и другие прецеденты, схожие по характеру. В некоторых штатах США полиция требовала от подозреваемых разблокировать айфоны при помощи технологии TouchID, хотя это действие можно расценивать как нарушение Пятой поправки, т. е. свидетельствование против самого себя. В одном из случаев суд признал требование разблокировки нарушением, в другом — посчитал отказ выдавать пароль неподчинением властям. Однако судебный прецедент так и не был установлен. До сих пор неясно, должны ли подозреваемые предоставлять доступ к своим смартфонам или они имеют право сохранять цифровое «молчание».

Умные устройства и приборы интернета вещей в 2016 году получили широкое распространение. Вместе с этим возникли новые вызовы и вопросы. Например, стоит ли считать гаджеты свидетелями преступлений? Полиция Арканзаса полагает, что стоит. Представители правоохранительных органов считают, что полезные сведения об убийстве, произошедшем в доме обвиняемого, можно получать от виртуального помощника Alexa на базе Amazon Echo. Однако Amazon предоставлять данные не собирается.

Пока Alexa хранит обет молчания, IoT приборы уже выдали своего владельца. Полицейские обнаружили, что в ночь убийства в доме было израсходовано 530 литров воды. Предполагается, что так преступник пытался отмыть следы крови и замести следы преступления.

Ожидания: Гаджеты лишь кажутся нашими молчаливыми друзьями, но под судом они могут стать опасными свидетелями. Умные звонки и умные замки расскажут, кто и когда посещал квартиру, IoT-счетчики выдадут количество израсходованных воды и электричества, а виртуальные помощники сохранят на своих серверах улики. Приборы интернета вещей будут досматриваться по условиям ордера на обыск, а вот с виртуальными помощниками и смартфонами ситуация пока не решена. Исход определят прецеденты, либо правила регулирования, которых пока нет. Но уже стоит опасаться, что досмотр смартфона станет такой же стандартной практикой, как и досмотр автомобиля.

Взлет дронов

Главным разочарованием для многих ИТ-гигантов в 2016 году стали новые правила использования коммерческих дронов, установленные в августе Федеральным управлением гражданской авиации (FAA) США. Закон не позволяет предприятиям осуществлять доставку товаров при помощи квадрокоптеров, так как дроны на протяжении всего пути должны находиться в поле зрения оператора.

В то же время новые условия, изданные регулятором, упростили процесс получения лицензии. К сентябрю на экзамен для получения документов записалось более 13 тыс. человек, а FAA спрогнозировало рекордный рост числа беспилотников и операторов дронов в США. Хотя мечты Amazon не сбылись и компании даже пришлось проводить первую коммерческую доставку дронами в Великобритании (где, кстати, действуют похожие ограничения), многие предприятия бросились получать разрешение FAA на применение сельскохозяйственных дронов, дронов-инспекторов и беспилотников для фото- и видеосъемки, которых, кстати, большинство.

Ожидания: Во многих странах в принципе не установлены законодательные ограничения и царит правовой вакуум. В других странах, например, в России, действующие законы не учитывают стремительное развитие технологий. Поэтому главным «поставщиком» идей по регулированию сейчас выступают США.

Перед FAA стоит задача сделать беспилотники безопасными для людей и самолетов. Совместно с NASA орган разрабатывает систему управления воздушным движением на малых высотах, которая исключит риск столкновения беспилотников с пилотируемыми воздушными судами. Но до этих пор дронам-курьерам от Google и Amazon придется пылиться на складах в ожидании лучших времен или проходить испытания в других странах, где действуют более мягкие законы.

В России дроны планируют оснащать RFID-метками, которые будут выполнять функцию номерных знаков, а также собираются ограничить опасным категориям граждан доступ к управлению беспилотниками. Однако пока дроны в нашей стране — это скорее развлечение, как инструмент ведения бизнеса их рассматривают немногие.

Робокопы в действии

Хотя экзоскелеты наделяют человека суперспособностями, современные технологии пока не позволяют создавать киборгов такого продвинутого уровня, как «Робокоп». Несмотря на это, роботизированные технологии меняют работу полиции и охраны по всему миру. Впервые в 2016 году робот был применен для ликвидации преступника. Прецедент произошел в июле, когда полиция Далласа использовала робота со взрывчаткой на борту для уничтожения стрелка, который в ходе перестрелки убил 5 полицейских.

Британская полиция собирается применять беспилотники для поимки грабителей, отслеживания протестов и во время осады. А полиция в Токио подготовила отряд дронов-полицейских для поимки дронов-нарушителей. Квадрокоптеры все чаще стали использовать для наблюдения и для контроля толпы.

Профессия полицейского всегда была опасной, но развитие современных технологий заставило задуматься — а насколько оправдан этот риск? Стрельба в школе Сэнди-Хук и теракт на Бостонском марафоне привели к созданию компании Knightscope, которая занимается выпуском роботов-охранников. Устройства никогда не устают, обладают неограниченным запасом внимания (спасибо датчикам) и обходятся значительно дешевле. В июле в торговом центре Stanford один из роботов Knightscope сшиб годовалого ребенка, однако этот прецедент никак не отразился на законодательстве.

Параллельно с роботами полицейские службы и службы исполнения наказаний стали все чаще обращаться к помощи алгоритмов. Умное программное обеспечение помогает полицейским в Дубае прогнозировать преступления в отдельных районах, такие же системы используются в США. Более того, искусственному интеллекту поручают прогнозировать вероятность рецидивов и принимать решение о досрочном освобождении заключенных. Причем, как показывают исследования ProPublica, эти алгоритмы часто дискриминируют людей по цвету кожи и выносят предвзятые решения.

Ожидания: Дроны и робокопы, оборудованные камерами и системой распознавания лиц, смогут стать идеальными инструментами в мире тотальной слежки. Подобные технологии уже можно было наблюдать в поп-культуре — взять, к примеру, последний фильм о Джейсоне Борне.

Системы прогнозирования преступлений также представляют угрозу из-за своей предвзятости. В 2016 году Белый дом в новом отчете об ИИ подчеркнул, что необходимо урегулировать работу подобных систем. Вероятно, в 2017 году на этом будет акцентировано внимание общественности. При этом системы слежки и наблюдения будут внедряться повсеместно под видом оборудования для умных городов. ФБР США уже располагает обширной базой данных с фотографиями 117 млн граждан, сколько подобных случаев пока еще просто скрыто под грифом секретности можно только догадываться.