Исследователи из США разработали HarmonyCloak для защиты музыкантов от автоматического использования их произведений при обучении систем генеративного искусственного интеллекта (ИИ). Инструмент добавляет слой шума в музыку: человеческий слух его не воспринимает, а для ИИ создаются помехи.
Шум динамически формируется, чтобы соответствовать конкретному музыкальному произведению, оставаясь ниже порога человеческого слуха. При этом модели ИИ, которые собирают музыку, по словам разработчиков, не понимают, какие части игнорировать, поэтому попытки использовать такие файлы для обучения и генерации похожих записей приводят к некачественному звуку.
Разработчики предлагают использовать HarmonyCloak для добавления защиты перед загрузкой музыки на сайты или в стриминговые сервисы, где она может попасть в сети ИИ. На сайте проекта опубликованы примеры работы сервиса: попытки сгенерировать трек на основе защищенной музыки приводят к генерации какофонии.
HarmonyCloak можно работает в двух режимах. Его можно настроить на использование шума, нацеленного на определенную модель ИИ, при этом помехи сохранятся даже после обработки трека, например, сжатия в MP3. Также сервис может генерировать шум, который влияет на разные модели ИИ.
Обычно такие виды защиты создают «гонку вооружений»: модели ИИ адаптируются, чтобы обойти такие барьеры. Но разработчики заявляют, что HarmonyCloak работает по-разному с каждой песней, поэтому ИИ нужно знать конкретные параметры для каждого трека, прежде чем он сможет взломать код. Это возможно, но будет непросто для массовой обработки.
Читать далее:
Ученые нашли ключ к огромной энергии прямо у нас под ногами
Решение загадки физики трех тел уже близко: что выяснили ученые
План Илона Маска угрожает Марсу: ученый раскритиковал его идею
На обложке: Изображение от freepik, сведения о лицензии