Сообщить об ошибке на сайте
URL
Ошибка
Тренды

СЕО компании Expensify Дэвид Баррет написал в своем блоге несколько постов, в которых оправдывал нарушение приватности заботой о клиентах и тестированием нового сервиса Private SmartScan, пишет Quartz.

Стартап Expensify помогает вести учет расходов, позволяя получать сведения о своих тратах по кредитке напрямую из базы данных банка. Кроме того, в программу можно вручную вводить информацию обо всех потраченных суммах и даже прикреплять к ним отсканированные чеки и квитанции. Система SmartScan использует ИИ для обработки этих данных, сохраняя полную анонимность. Именно в этом главное преимущество сервиса: не нужно привлекать посторонних людей для ведения финансовой отчетности и посвящать их в детали своей частной жизни.

По крайней мере, так утверждали основатели стартапа, получив $30 млн на дальнейшую разработку SmartScan. В числе инвесторов — сооснователь Uber Тревис Каланик, а среди клиентов сервиса — Square, Snapchat и Instacart. Не говоря уже о 300 тысячах коммерческих организаций и 4,5 млн частных лиц. Тот факт, что данные обрабатывает искусственный интеллект, стал залогом успеха компании. Ведь в чеках содержатся имена, номера счетов и адреса электронной почты.

На прошлой неделе Рошель ЛаПлан, сотрудник службы Amazon Mechanical Turk (AMT), опубликовала в своем твиттере сообщение о том, что ей поступил заказ на обработку квитанции Uber. Суть сервиса AMT заключается выполнении небольших задач на цифровой платформе Amazon, которые раздают в случайном порядке 500 000 фрилансерам по всему миру. Кто-то проставляет тэги на фотографиях, кто-то расшифровывает записи, кто-то размещает рекламу в видео. Так вот, Рошель попалось задание от Expensify на обработку квитанции — то самое, которое якобы выполняет система SmartScan.

Другой сотрудник Mechanical Turk сообщил о том, что ему попались задания от Expensify на расшифровку счета за пребывание в отеле в Саудовской Аравии, медицинского рецепта, чека из пекарни в Калифорнии и посадочного талона на самолет. Во всех этих материалах указаны имена, фамилии и другие персональные данные. То есть, клиенты Expensify выбрали этот сервис за полную анонимность, а оказалось, что сведения вносят в систему полмиллиона незнакомцев.

В ответ на эти «разоблачения» СЕО компании Дэвид Баррет написал в своем блоге целый пост, в котором оправдывал нарушение приватности заботой о клиентах. Якобы ИИ не всегда справляется со считыванием информации с чеков и квитанций, поэтому приходится обращаться к помощи «наших агентов по всему миру». Это лучше, чем писать отчет об ошибке и отправлять отсканированный чек обратно пользователю, чтобы он вручную вводил данные в систему. Пусть лучше задание выполнят наемные работники в любое время дня и ночи. Он заверил, что делегирование полномочий фрилансерам Mechanical Turk было частью кампании по набору сотрудников для собственной круглосуточной службы по обработке персональных данных Private SmartScan.

В следующем посте Баррет уточнил, что к Mechanical Turk они обращались в 2009 году, а с 2012 года расшифровкой занимается исключительно их собственная служба (состоящая из людей, опять же). А к AMT они обратились только ради проверки нового продвинутого сервиса Private SmartScan. Более того, они отдали «туркерам» им не более 0.00004% от общего количества чеков. И ни один из чеков клиентов платных сервисов Expensify не попал в их число. Кроме того, задания направлялись только проверенным и верифицированным сотрудникам Mechanical Turk, которые были обязаны подписать соглашение о конфиденциальности.

В последнем обновлении блога от 30 ноября 2017 года написано: «Было проведено внутреннее расследование, в ходе которого выяснилось, что в период с 9:26 утра среды 22 ноября до 9:54 утра четверга 23 ноября в системе Amazon Mechanical Turk произошел сбой программы. Из-за этого 208 чеков (все они принадлежали сотрудникам Expensify и пользователям, которые не платят за сервисы компании) поступили на обработку непроверенным фрилансерам. Компания уведомила о возможном нарушении конфиденциальности всех клиентов, чьи интересы были затронуты».

В завершение Баррет высказал оригинальную идею: «В чеках нет важной информации, с помощью которой можно было бы нанести урон клиентам. Недаром большинство людей просто выбрасывает их в мусор. А если вы беспокоитесь, что посторонние увидят вашу квитанцию за Uber, лучше подумайте о том, что садитесь в машину к совершенно незнакомому человеку. Это — настоящий риск, но именно из рисков состоит наша жизнь».

Для того чтобы следить за личными данными, которые собирают, используют и иногда распространяют мобильные приложения, требуется внимательно изучать запутанные пользовательские соглашения и настройки приватности. Исследователи из Университета Карнеги — Меллон создали приложение Privacy Assistant, которое с помощью машинного обучения возвращает пользователю контроль над персональными данными, которые собирает его смартфон и дает рекомендации для их защиты от передачи третьим лицам.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Человек и квантовая теория: существует ли то, что мы не наблюдаем
Идеи
Здесь может быть ваша реклама: НАСА планирует заработать на космосе миллионы
Тренды
Опасный криптотрейдинг: как киберпреступники угрожают виртуальным сбережениям и биржам
Тренды
5 финансовых инструментов, которые помогут инвесторам даже после падения криптовалюты
Тренды
Тренды
Как через 20 лет будет выглядеть армия будущего
Александр Лямин, Qrator Labs: наша задача — выработать у людей цифровую гигиену, чтобы они «не ели с помойки»
Кейсы
Эдуард Фош Вильяронга: люди видят в роботе только внешность, забывая, что он следит за ними
Тренды
Доктор Куэй Во-Райнард, HIT Foundation: если страна требует суверенитета данных, мы построим для нее отдельный блокчейн
Кейсы
Идеи
«Хакинтош»: как собрать свой собственный Mac лучше, чем у Apple
Роботы против мигрантов: какой вклад в ксенофобию и расизм делают технологии ИИ
Тренды
Война скриптов — искусственный интеллект против навязчивой рекламы
Тренды
Как заново изобрести супермаркет: осознанность потребления, этика производства и роботы
Тренды
Каждый человек станет сам себе банком: цифровой мир отказывается от посредников между бизнесом и клиентом
Тренды
Архитектор вычислительной инфраструктуры «Платона» Александр Варламов — о будущем ИТ-индустрии в России, стартапах и разработке
Кейсы
Дмитрий Богданов, капитан сборной России по CS:GO — о стиле жизни киберспортсмена, тренировках и блокировках РКН
Тренды
Идеи
Космос — наш дом: что осталось решить ученым, чтобы поселить человека за пределами Земли
Прайсинг, трекинг, скоринг, биллинг и другие технологии, которые двигают российский бизнес
Тренды
«Педиатр 24/7»: как телемед-стартап подарил родителям спокойствие, а врачам — работу
Кейсы
Вас снова обманули: как человечество учит компьютеры определять фейки в интернете
Тренды
БиСи Бирман, Heavy Projects: ИИ должен иметь несовершенства — это элемент случая
Мнения
Артем Геллер, lab.ag: делая сервис для государства, ты помогаешь своей бабушке
Мнения
Акселераторы и инкубаторы: что выбрать стартапу на раннем этапе развития
Мнения
Вопрос доверия: как и почему изменилось отношение к телемедицине в России
Тренды
Правительственные криптопесочницы: как освободить финтех от давления закона и защитить потребителей
Тренды
Роман Нестер, Segmento: я верю корпорациям больше, чем маленьким компаниям
Кейсы
Суперагенты в недвижимости: как блокчейн и большие данные заменяют риелторов
Тренды
СМИ будущего: вертикальные видео, новости по запросу и смерть сайтов
Тренды
Тренды
Колонизация отменяется: почему терраформирование невозможно на Марсе
Сет Стивенс-Давидовиц: у людей гораздо больше непристойных и скверных мыслей, чем мы думали
Мнения
Умные города подвергают своих жителей опасности из-за датчиков освещения и радиации
Тренды
Мнения
Геронтолог Обри ди Грей: жизнь длиной в тысячу лет — это побочный эффект поиска вечного здоровья
Биоценоз в фарме: зачем нужна альтернатива антибиотикам и как работают лекарства нового поколения
Тренды
Чарльз Адлер, co-founder Kickstarter: я — панк-рокер, который раздвигает границы
Кейсы
Как ИИ меняет медицину: личный помощник для врачей, маршрутизатор в клиниках и разработчик лекарств
Кейсы
Эдвин Диндер, Huawei Technologies: умный город — это ничто
Мнения
«Если изобретение с ИИ не приносит пользу, сам продукт никому не нужен»
Мнения
Feature engineering: шесть шагов для создания успешной модели машинного обучения
Тренды
Мнения
Человек — это набор из пяти чисел: Игорь Волжанин, DataSine — о психотипировании с помощью big data
Карло Ратти, Senseable City Laboratory (MIT) — о городах будущего, третьей коже человека и роболодках
Тренды
Мы все — сенсоры: CEO SQream Ами Галь — о том, как обрабатывают big data
Кейсы
Что такое скрапинг: как Amazon, Walmart и другие ритейлеры используют ботов в борьбе с конкурентами
Идеи
Почему китайские подлодки-беспилотники станут самым опасным врагом под водой?
Идеи
Филипп Роуд, LSE Cities: самый кошмарный сценарий — беспилотники, ездящие по городу, чтобы не платить за парковку
Мнения
Юрий Корженевский — о том, как построить безопасные системы для банков на блокчейне
Блокчейн
Иннополис
Russian Robot Olympiad: как дети строят роботов и решают реальные инженерные проблемы
MyGenetics: ДНК-тесты, помогающие «взломать» организм, как компьютер
Тренды
Trade-to-Mine: как биржи привлекают трейдеров в условиях падения рынка
Блокчейн
Дмитрий Фадин, 3D Bioprinting Solutions — о будущем биопринтинга и печати органов в космосе
Мнения
IoT изменит все: какие умные технологии принесут бизнесу экономию, безопасность и инновации
Тренды