Голосовые помощники: что нужно знать об уязвимостях программ?

• Siri

Голосовой ассистент Siri (аббревиатура расшифровывается как Speech Interpretation and Recognition Interface) — виртуальный помощник с искусственным интеллектом, который может осуществить поиск в интернете, посмотреть новости за определенный период времени, узнать информацию о погоде, завести будильник, позвонить знакомым и родственникам и многое другое. 

Программный клиент входит в состав iOS, iPadOS, watchOS, macOS, и tvOS компании Apple. Данное приложение использует обработку естественной речи, чтобы отвечать на вопросы и давать рекомендации. Siri приспосабливается к каждому пользователю индивидуально, изучая его предпочтения в течение долгого времени. 

У Siri регулярно находят уязвимости или баги, которые связаны, например, с комбинацией слов. Если их произнести, программа выдаст нелогичный ответ. В «Лаборатории Касперского» нашли забавный баг голосового помощника: если 5 раз произнести «дефис» с помощью голосового ввода, ваш iPhone закроет все приложения в аварийном режиме.

В ответ на просьбу «Siri, заряди мой телефон до 100%» голосовой помощник начинает звонить в экстренные службы. Дело в том, что во многих странах номера полиции и скорой помощи содержат в себе вариации с цифрой 100. Siri воспринимает такую просьбу как потенциально опасную и начинает звонить в службу спасения. В программе предусмотрена пятисекундная задержка экстренного вызова и его можно отменить.

Также голосовой ассистент может запуститься после фраз «город» и «эй, Джерри» (a city и hey jerry), хотя они не должны приводить к запуску устройства. В противном случае голосовой помощник может запуститься в неподходящий момент и попытаться записать ваш вопрос, в случае неудачи запись будет отправлена на проверку разработчикам. 

• Alexa

Amazon Alexa, или Alexa — это виртуальный ассистент, разработанный компанией Amazon. Впервые разработка появилась в умных колонках Amazon Echo и Amazon Echo Dot. Ассистент поддерживает голосовое общение, воспроизведение музыки, подкастов и аудиокниг, составление списков дел, настройку будильников, предоставление актуальной информации о погоде, трафике, спорте, новостях и прочем. Пользователи могут расширять возможности Alexa, устанавливая «навыки», разработанные сторонними поставщиками.

Также у голосового помощника есть фразы, от которых он по ошибке запускается: «недопустимо», «выборы» и «письмо» (unacceptable, election, letter). Когда устройства запускаются, они записывают часть сказанного и передают эти записи их производителю. Затем аудио может быть расшифровано и проверено сотрудниками в попытке улучшить распознавание слов. Таким образом, фрагменты потенциально приватных разговоров могут попасть в журналы компании.

Бывают и совершенно непредвиденные ситуации, когда голосовые помощники выходят из под контроля: например, Alexa запустила злодейский смех в тихом помещении. 

Или записала разговор, а потом отправила его случайном контакту из адресной книги. 

• Google Assistant

Это облачный сервис персонального ассистента, разработанный компанией Google, его представили 18 мая 2016 года. Он считается продолжением более раннего Google Now, но в программе появилась возможность участия в двусторонних переговорах. Помощник может использоваться в смартфонах, также он включен в Google Allo — приложение для мгновенного обмена сообщениями, Google Home — умный голосовой Wi-Fi-динамик для управления вашим домом, Android Wear — умные часы от Google.

Это чуть менее продвинутая разработка, апдейты которой выходят чуть реже. В конце июля разработчики выпустили исправление проблемы, которая не позволяла пользователям использовать все возможности персонального помощника Google Assistant при запущенном приложении Android Auto. На сайте поддержки Android Auto было более 1 200 пользователей, которые подтвердили, что они не могли отправлять голосовые сообщения при помощи Google Assistant во время вождения. При попытке отправить голосовое сообщение появлялись два уведомления об ошибках.

Также у помощника существуют специфичные фразы, после которых он запускается: «Хорошо, круто» и «Хорошо, кто читает» (OK, cool и Okay, who is reading). 

• «Алиса»

«Алиса» — это виртуальный голосовой помощник, созданный компанией Яндекс. Распознает естественную речь, имитирует живой диалог, дает ответы на вопросы пользователя и благодаря запрограммированным навыкам решает прикладные задачи. «Алиса» работает на смартфонах и компьютерах, в автомобилях и в Яндекс.Станции. По данным Яндекса, ежедневная аудитория «Алисы» составляет 8 млн пользователей, а месячная аудитория по состоянию на декабрь 2019 года составила 45 млн человек

Пользователи заметили, что ассистент старается избегать говорить о наркотиках, религии и сексе. 

• Microsoft Cortana

«Кортана» — это виртуальная голосовая помощница с элементами искусственного интеллекта от Microsoft для Windows Phone 8.1, Microsoft Band, Windows 10, Android, Xbox One и iOS.

Впервые ее продемонстрировали 2 апреля 2014 года. «Кортана» была названа в честь героини серии компьютерных игр Halo — голос помощницы в версии для американского рынка принадлежит Джен Тейлор, которая также озвучивала Кортану в оригинальной игре.

Пару лет назад с помощью голосового помощника можно было серьезно подпортить жизнь владельцу устройства. Два независимых исследователя из Израиля обнаружили крупную лазейку, которой могут манипулировать хакеры. Брешь, которую Microsoft исправила, позволяла злоумышленникам обойти систему password-locked Windows с помощью Cortana. Поскольку Windows 10 позволяет устройству подключаться к другой сети, пока оно все еще заблокировано, злоумышленник может подключить свой USB-адаптер к сетевому адаптеру, чтобы скомандовать помощнику открыть незашифрованный веб-сайт (веб-адрес, не содержащий https). После того, как Cortana откроет сайт (пока система все еще заблокирована), вредоносный адаптер злоумышленника сможет перехватить сессию, чтобы отправить устройство на вредоносный веб-сайт.

Также ассистент может отреагировать на слово «Монтана» (Montana) и включиться в неподходящий момент. 

Что в итоге?

Голосовые помощники — не самый надежный инструмент, которым нужно аккуратно пользоваться и доверять какую-либо личную информацию. Несмотря на все апдейты и обновления для улучшения программ, вопросы к ним остаются.

Сегодня, 17 июля, стало известно, что Евросоюз начинает антимонопольное расследование о работе голосовых помощников, например, в Siri от Apple и Alexa от Amazon. Всего под дела попадают 400 компаний по всему миру. Регуляторы проверят, как ИТ-компании применяют пользовательские данные.

Читать также

Посмотрите на огромную «стену» из сотни тысяч галактик позади Млечного пути

Комета NEOWISE видна в России. Где ее увидеть, куда смотреть и как сделать фото

НАСА и ЕКА опубликовали самый детальный снимок Солнца