Сообщить об ошибке на сайте
URL
Ошибка
Тренды

Эдуард Фош Вильяронга — исследователь роботов для персонального ухода за больными. Он изучает проблемы законодательного регулирования персональных данных и участвует в создании стандартов тестирования и сертификации роботов. Работает в Центре изучения облачных технологий Microsoft и Центре исследования коммерческого права (CCLS) в Лондонском университете королевы Марии. «Хайтек» побеседовал с исследователем после дискуссии «Новые технологии в медиа и информационная безопасность» в институте «Стрелка» о развитии права на забвение, решении проблем взаимодействия роботов и людей, а также об особенностях персональных роботов, которые могут скрывать производители.

«Технари должны знать о последствиях своих изобретений»

— Свою статью о праве на забвение вы начинали с рассказа об испанце, потребовавшего от Google через суд удалить информацию о нем. Как сейчас работает право на забвение в Европе?

— Это дело стало базой для разработки права на забвение. Гражданин Испании жаловался, что информация о нем в интернете мешает найти работу. Появился вопрос: несет ли поисковик Google ответственность за содержимое выдачи? Тогда компания ответила, что она индексирует информацию в сети, но не создает ее.

Сегодня уже появились новые проблемы: на европейском уровне есть право на забвение, или право на стирание информации о тебе (right to erasure — «Хайтек»), то есть данные могут быть удалены из интернета. Но применение этого права влечет за собой проблемы с машинным обучением: очень сложно убрать какую-то отдельную информацию, не нарушив согласованность всей базы данных. А когда законы подразумевают уголовное преследование за нарушение защиты данных, то требуется еще большая ясность в техническом применении таких норм. Сейчас получается так, что инженеры не знают, что делать в связи с этим.

Появляется больше электронных государственных и не только сервисов, а вокруг них — новые нормы. Но вокруг физического хранения данных нет. В любом случае, даже «облако» — это физический сервер, вряд ли мы сможем когда-то от него избавиться.

Часть проблемы регулирования информации в интернете состоит в том, что серверы многих компаний находятся в США, тогда как доступ к ним осуществляется отовсюду.

Одним из прорывов Общего регламента по защите данных (GDPR) стала небывалая широта его применения. Он защищает европейских граждан независимо от того, где находятся они или серверы с данными. Это первый случай, когда европейские законы выходят за рамки территории ЕС и заставляют всех работающих с персональными данными европейцев подчиняться им. Проблема со старой Директивой о защите персональных данных 1995 года, которую сменил GDPR, состояла в недостаточных мерах принуждения. Сейчас можно действительно наказать плохих парней. ЕС чувствительно относится к проблеме защиты данных европейцев и готов к обеспечению гарантированной работы новой нормы. Но пока это все в новинку, прошло всего несколько месяцев с введения GDPR.

— Насколько успешно сотрудничество технических специалистов и законодателей?

— Есть Международная организация по стандартизации — ISO. Она разработала стандарты для защиты данных и предварительной оценки последствий решений по такой защите. В нее входят больше 160 стран, в том числе Россия, США, Китай и большинство европейских стран. Это хороший пример работы негосударственной организации по разработке стандартов для решения международных проблем: отдельные государства с ними не справились бы из-за границ своих легальных сфер.

У этих стандартов есть проблема: они не обязывают подпадающие под них компании что-то делать. Их добровольно применяют, причем за их нарушение не следует последствий. Если вы все же упоминаете эти стандарты в договорах с другими компании, то могут быть последствия за их нарушение. Но как общий принцип это не работает.

— Как улучшить взаимодействие государства и разработчиков?

— Одна из главных вещей — углубление междисциплинарного подхода к проблемам современных технологий. Постоянно возникают проблемы с этикой и законодательством. Но специалисты-технари не получают достаточного образования в этих направлениях, а значит, не могут ставить правильные вопросы.

Согласно междисциплинарному подходу, те, кто занимается программированием и разработкой, должны владеть знаниями по этике и праву, чтобы понимать последствия своих технических решений. Так они смогут быть уверены, что создают безопасные проекты.

С другой стороны, нужно, чтобы специалисты по этике и праву имели технические навыки для понимания конкретных деталей современных технологий. Без этого получается, что дискуссия специалистов проходит на высоком уровне, но в технической части они многое упускают из-за недостатка знаний. Я думаю, этот подход может еще очень многое принести. Его можно реализовать не только на локальном уровне, но также на общеевропейском, на уровне той же ISO.

Двойная природа робота

— С какими проблемами сталкиваются производители роботов для персонального ухода?

— Моя докторская диссертация была посвящена роботам для персонального ухода. Недавно я получил стипендию имени Мари Кюри для продолжения своего исследования, так что в этом я — эксперт.

Я изучаю роботов, которые должны заботиться о детях и пожилых людях, страдающих от деменции, аутизма и других расстройств. Эти группы нуждаются в дополнительном уходе. Существующее законодательство о таких роботах фокусируется на физической безопасности людей, тогда как я обращаю внимание на их когнитивное состояние.

Мы контактируем каждый день с роботами, но есть группа, которую называют «социально активные роботы». Они не только выполняют какую-то функцию, но и общаются с вами, собирают какие-то данные о вас. Очень часто пользователи просто не понимают, что в процессе работы робот собирает и передает информацию. Люди не идентифицируют робота как сборщика данных, потому что они фокусируются на его внешнем виде. В итоге они упускают двойную природу робота, кибернетическую и физическую, как, например, у робота NAO.

Существует проблема с возможным ограничением воли людей. Какую часть задач мы можем передать роботам для персонального ухода, а какую будут продолжать делать люди? Это соотношение нужно сбалансировать, чтобы у тех, за кем присматривают, была возможность выбора. Есть вопрос об ответственности: кто будет отвечать, если что-то пойдет не так с роботом? Наконец, встает вопрос о человеческом достоинстве: действительно ли мы хотим, чтобы за нуждающимися присматривали роботы? Многие сейчас следят за развитием таких технологий, у роботов много плюсов: они не получают зарплату, не выходят на пенсию, работают 24/7, но, возможно, есть какие-то сферы, в которых нужен человеческий подход. Я верю, что скоро будут юридические решения в вопросе о том, желаем ли мы автоматизации ухода за больными или эта сфера остается у людей.

— Почему люди не понимают «двойной природы» роботов?

— Все, что вы видите, — это сам робот. Возьмем пылесос Roomba. Пользователи просто видят пылесос, потому что он действительно пылесосит и для этого создан. Но на деле он подключен к собственной сети, передает данные о себе и вас. Для производителей роботов просто отвлечь пользователей от сбора данных их девайсами. Не только с помощью внешнего вида, но еще с помощью небольших трюков: робот может повернуться к вам и сказать: «Привет, отлично выглядишь сегодня!». И сразу ваше внимание сосредоточено на том, о чем робот говорит или как он это говорит, но не на том, что происходит за рамками этого разговора. Из-за этого вы не понимаете, до какой степени сбор информации повлияет на вас. Не считаете такой разговор с роботом серьезным, потому что не понимаете, для чего он нужен и для чего робот и его разработчики используют ваши данные.

— Зачем компаниям так отвлекать пользователей?

— Есть много разных причин. Это можно делать для терапевтических целей, чтобы пользователь отвлекался и приступал, например, к упражнениям. Тогда роботы специально так устроены, им нужно внимание пользователя направить на соблюдение предписаний врача.

С другой стороны, такое отвлечение уже давно применяется в интернете. Вас по-разному отвлекают на каком-то сайте, чтобы вы как можно дольше на нем продержались или, наоборот, кликнули на баннер и перешли с сайта. Почему бы не использовать те же приемы для роботов?

Роботы должны быть безопасны

— Что вы можете предложить для усовершенствования регулирования таких компаний?

— Нам нужно создать зоны для междисциплинарного тестирования роботов. Они должны быть проверены специалистами из разных дисциплин для понимания, безопасен такой робот или нет. Нужно проверить соблюдение приватности, защиты данных, корректную работу автономных систем. Причем зоны должны быть доступны для законодателей, чтобы мы могли выработать нормы, основанные на экспериментальных данных. В моей статье, написанной в соавторстве с Микаелем Хельдевегом из Университета Твенте, описана процедура изменения государственного регулирования с созданием таких зон для тестирования и оценки влияния роботов. В Европе уже заинтересовались проблемами таких роботов: Еврокомиссия создала специальный комитет экспертов по ИИ для их изучения.

— Каким вы видите будущее роботов для персонального ухода?

— Пока что все находится на ранней стадии развития. Но мы уже знаем, что роботы, работающие с аутистами, не должны иметь экран. Последние исследования показывают, что экраны только усиливают отчуждение аутистов, то есть делают то, от чего должны помочь избавить. Это показывает: чем больше мы знаем о рисках, тем лучше мы будем представлять будущее. Возможно, будущие роботы помогут аутистам общаться с другими людьми через технические решения без экранов.

— Изменения, связанные с роботами, происходят в основном в развитых странах. К чему это может привести?

— Все страны решают свои проблемы. Развитые страны строят роботов, и из-за этого возникают проблемы с ними, их пытаются решить. Но в развивающихся странах тоже происходит много всего, связанного с роботами и интернетом вещей. Их главная проблема — они не могут просто так попасть на мировой рынок. Поскольку они «вне игры», у них нет слова. Они не очень на него влияют.

Если Россия хочет играть ведущую роль в разработке роботов, ей нужно следовать правилам XXI века. Это подразумевает плюрализм, открытость, прозрачность, готовность учиться у других. Я был на многих конференциях с блестящими русскими исследователями экзоскелетов. Это нам и нужно — исследователи со всего мира, которые делают что угодно для решения наших проблем.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Big data на страже здоровья: как и зачем медицинские организации собирают и хранят данные
Тренды
Николь Миллс, Booking.com — об инновациях, agile-подходе и индустрии впечатлений
Кейсы
Слишком опасный нанопластик: как одноразовые пакеты превращаются в частицы-убийцы
Тренды
Здесь может быть ваша реклама: НАСА планирует заработать на космосе миллионы
Тренды
Идеи
Человек и квантовая теория: существует ли то, что мы не наблюдаем
Опасный криптотрейдинг: как киберпреступники угрожают виртуальным сбережениям и биржам
Тренды
Как через 20 лет будет выглядеть армия будущего
Тренды
5 финансовых инструментов, которые помогут инвесторам даже после падения криптовалюты
Тренды
Александр Лямин, Qrator Labs: наша задача — выработать у людей цифровую гигиену, чтобы они «не ели с помойки»
Кейсы
Доктор Куэй Во-Райнард, HIT Foundation: если страна требует суверенитета данных, мы построим для нее отдельный блокчейн
Кейсы
Роботы против мигрантов: какой вклад в ксенофобию и расизм делают технологии ИИ
Тренды
Идеи
«Хакинтош»: как собрать свой собственный Mac лучше, чем у Apple
Война скриптов — искусственный интеллект против навязчивой рекламы
Тренды
Как заново изобрести супермаркет: осознанность потребления, этика производства и роботы
Тренды
Каждый человек станет сам себе банком: цифровой мир отказывается от посредников между бизнесом и клиентом
Тренды
Архитектор вычислительной инфраструктуры «Платона» Александр Варламов — о будущем ИТ-индустрии в России, стартапах и разработке
Кейсы
Дмитрий Богданов, капитан сборной России по CS:GO — о стиле жизни киберспортсмена, тренировках и блокировках РКН
Тренды
Прайсинг, трекинг, скоринг, биллинг и другие технологии, которые двигают российский бизнес
Тренды
Идеи
Космос — наш дом: что осталось решить ученым, чтобы поселить человека за пределами Земли
«Педиатр 24/7»: как телемед-стартап подарил родителям спокойствие, а врачам — работу
Кейсы
Вас снова обманули: как человечество учит компьютеры определять фейки в интернете
Тренды
БиСи Бирман, Heavy Projects: ИИ должен иметь несовершенства — это элемент случая
Мнения
Артем Геллер, lab.ag: делая сервис для государства, ты помогаешь своей бабушке
Мнения
Акселераторы и инкубаторы: что выбрать стартапу на раннем этапе развития
Мнения
Вопрос доверия: как и почему изменилось отношение к телемедицине в России
Тренды
Правительственные криптопесочницы: как освободить финтех от давления закона и защитить потребителей
Тренды
Кейсы
Роман Нестер, Segmento: я верю корпорациям больше, чем маленьким компаниям
Суперагенты в недвижимости: как блокчейн и большие данные заменяют риелторов
Тренды
СМИ будущего: вертикальные видео, новости по запросу и смерть сайтов
Тренды
Тренды
Колонизация отменяется: почему терраформирование невозможно на Марсе
Сет Стивенс-Давидовиц: у людей гораздо больше непристойных и скверных мыслей, чем мы думали
Мнения
Умные города подвергают своих жителей опасности из-за датчиков освещения и радиации
Тренды
Геронтолог Обри ди Грей: жизнь длиной в тысячу лет — это побочный эффект поиска вечного здоровья
Мнения
Биоценоз в фарме: зачем нужна альтернатива антибиотикам и как работают лекарства нового поколения
Тренды
Чарльз Адлер, co-founder Kickstarter: я — панк-рокер, который раздвигает границы
Кейсы
Как ИИ меняет медицину: личный помощник для врачей, маршрутизатор в клиниках и разработчик лекарств
Кейсы
Эдвин Диндер, Huawei Technologies: умный город — это ничто
Мнения
«Если изобретение с ИИ не приносит пользу, сам продукт никому не нужен»
Мнения
Feature engineering: шесть шагов для создания успешной модели машинного обучения
Тренды
Мнения
Человек — это набор из пяти чисел: Игорь Волжанин, DataSine — о психотипировании с помощью big data
Карло Ратти, Senseable City Laboratory (MIT) — о городах будущего, третьей коже человека и роболодках
Тренды
Мы все — сенсоры: CEO SQream Ами Галь — о том, как обрабатывают big data
Кейсы
Что такое скрапинг: как Amazon, Walmart и другие ритейлеры используют ботов в борьбе с конкурентами
Идеи
Почему китайские подлодки-беспилотники станут самым опасным врагом под водой?
Идеи
Филипп Роуд, LSE Cities: самый кошмарный сценарий — беспилотники, ездящие по городу, чтобы не платить за парковку
Мнения
Юрий Корженевский — о том, как построить безопасные системы для банков на блокчейне
Блокчейн
Иннополис
Russian Robot Olympiad: как дети строят роботов и решают реальные инженерные проблемы
MyGenetics: ДНК-тесты, помогающие «взломать» организм, как компьютер
Тренды
Trade-to-Mine: как биржи привлекают трейдеров в условиях падения рынка
Блокчейн