Нейросеть синтезировала речь, которой смогла обмануть алгоритмы и других людей

Исследователи из Чикагского университета под руководством Эмили Венгер разработали нейросеть для синтеза человеческого голоса: она смогла обмануть системы распознавания речи и даже других людей.

Сегодня много систем используют идентификацию пользователя по голосу, например, умные колонки «Яндекса» распознают голос владельца, а в свой аккаунт в WeChat можно войти, если сказать определенную фразу. Разработчики этих и других сервисов исходят из того, что голос человека уникален и это надежное средство для подтверждения свей личности. 

Но системы синтезирования человеческого голоса быстро учатся. Авторы новой работы решили проверить, на сколько хорошо алгоритм подстраивается под определенный тембр и интонацию. Авторы исходили из ситуации, в которой у злоумышленника есть доступ к образцам голоса жертвы в виде публично доступных аудио или видеозаписей, а также возможность вживую пообщаться с ним и записать речь.

Общая длина всей записи голоса — не более 5 минут. Далее на основе этих данных злоумышленник мог дообучить алгоритм до желаемого результата. Использовать при этом можно было только публично доступные алгоритмы, авторы выбрали два: SV2TTS и AutoVC. Для обучения моделей авторы использовали записи речи 90 людей из трех публичных датасетов: VCTK, LibriSpeech и SpeechAccent.

Во время тестирования успешнее всего показала себя модель SV2TTS и датасет VCTK. Для Resemblyzer доля успешных атак составила 50,5 ± 13,4%, для Azure — 29,5 ± 32%.

Для тестирования WeChat и голосового помощника Alexa исследователи привлекли 14 добровольцев: сначала они обучали модель своему голосу, а затем проверяли систему на синтезированных записях. В итоге 9 из 14 человек удалось войти в WeChat, а Alexa рано или поздно смогли обмануть все.

Также при разговоре с алгоритмом человек не мог отличить настоящий голос от поддельного в 50%. 

Читать далее

В американской пустыне вылупились «живые ископаемые». Они спали десятки лет

Посмотрите на цифровое искусство, которое сделали на основе анализа книг Айзека Азимова

Брэнсон, Безос и Пересильд: зачем известные люди летят в космос и что они там делают

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Старые смартфоны превратили в подводные центры обработки данных
Новости
Телескоп в Антарктиде зафиксировал первый свет Вселенной с рекордной точностью
Космос
Орангутаны тоже спят сиесту: днем приматы компенсируют ночной недосып
Наука
Искусственный интеллект науился писать код для компьютерных чипов
Новости
Кофеин активирует механизм, который замедляет старение в клетках
Наука
Археологи повторили путешествие древних людей на каноэ каменного века
Наука
Как правильно мыть голову летом: это важно для аллергиков
Наука
В России в 2025 году появятся шесть новых университетских стартап-студий
Новости
«Броня для голоса»: новая технология защищает от кражи голосовой биометрии
Новости
Сбер анонсировал Kandinsky 4.1 Video — новую модель генерации видео
Новости
Новые аккумуляторы Toshiba заряжаются всего за 6 минут
Новости
«Уэбб» впервые показал экзопланету с рекордно малой массой
Космос
Найдена странная клеточная сущность на грани жизни
Наука
Ученые раскрыли тайну странного поведения у акул
Наука
Госдума утвердила закон о едином магазине приложений: RuStore становится обязательным
Новости
Путин утвердил запуск цифрового сервиса: мессенджер, «Госуслуги» и ID в одном приложении
Новости
Астрономы раскрыли тайну рождения редких двойных горячих юпитеров
Космос
В янтаре нашли следы грибков-зомби, которым 99 000 000 лет
Наука
Google выпустила автономный «мозг» для роботов: новая модель работает без сети
Новости
В Сингапуре открыли способ омолодить сердце, не меняя клетки
Наука