Группа американских ученых сгенерировала голосовые команды для управления виртуальными помощниками на смартфонах. Человек с трудом разберет искаженное послание, однако помощники легко его распознают и даже выполняют. Например, переводят деньги или совершают звонок.
Исследователи из Джорджтаунского университета и Калифорнийского университета в Беркли разработали серию искаженных голосовых команд для смартфонов на базе Android с поддержкой Google Assistant. Человеческий слух воспринимает такие команды как статический шум. Однако алгоритмы распознавания речи у виртуальных помощников считывают послание и выполняют требование.
С помощью искусственного голоса можно написать твит, сделать звонок по телефону или перевести деньги через сервис денежных переводов, сообщает Vocativ. Теоретически, хакеры могут использовать искаженные голосовые команды для запуска сайта, с которого автоматически скачается вирусное ПО.
Чтобы голосовая команда сработала, нужно расположить источник звука на расстоянии не более 3 м от смартфона. В то же время, ничто не мешает спрятать послание в видеоролике YouTube или в трансляции телевизионной передачи.
Некоторые зашифрованные послания легко распознать — в 20% случаев люди понимали, когда искаженный голос говорил «Окей, Гугл». Смартфон распознавал и выполнял команду в 95% случаев. Более сложные предложения после искажения воспринимаются хуже. Ученые убедились, что виртуальный помощник с трудом разбирает просьбу включить авиарежим.
Существует несколько способов защиты смартфона от голосового вторжения. Многие виртуальные помощники, например Siri и OK Google, выполняют команду только после подтверждения пользователя — достаточно сказать «Да» или «Окей». Хакерам будет сложно подстроиться под такой диалог. Защитить устройство также позволит программа, которая распознает, от кого исходит просьба — от человека или от другого устройства.
Предложен простой способ обмана систем распознавания лиц
Идеи
Впрочем, современные технологии успешно заменяют даже оригинальный голос пользователя. В ноябре компания Adobe презентовала аудиоредактор для речи, который редактирует произнесенный текст, вырезает из него слова и генерирует новые, имитируя голос человека.