В России придумали, как защитить нейросети от утечек данных

Учёные из ведущих российских институтов представили революционный метод для защиты данных в нейросетях. GLiRA помогает выявить уязвимости и предотвратить утечку конфиденциальной информации. Об этом «Хайтеку» сообщили в пресс-службе Института AIRI.

Учёные из Института AIRI, ИЦДИИ ИСП РАН, Сбера, МТУСИ и Сколтеха разработали новый метод — GLiRA, предназначенный для анализа уязвимости нейросетевых моделей. Этот подход позволяет тестировать модели с помощью атак, чтобы выявить, какие данные использовались для их обучения. Такой метод помогает понять, как может происходить утечка персональных данных и какие уязвимости подвержены риску. Это особенно важно для защиты конфиденциальности в таких областях, как медицина и финансы, где важна защита личной информации.

GLiRA основывается на технологии дистилляции знаний и используется в условиях, когда атакующий не имеет доступа к внутренней структуре модели, а может только взаимодействовать с её интерфейсом. Это позволяет создавать теневые модели, которые могут воссоздавать поведение оригинальной модели и извлекать информацию о данных, на которых она обучалась.

Дистилляция знаний — это метод, при котором информация из сложной модели (учителя) передается более простой модели (ученику). Модель-ученик учится на выводах модели-учителя, что позволяет ей достигать хороших результатов с меньшими вычислительными затратами.

В результате исследований, GLiRA показал на 7% более высокую точность атак по сравнению с предыдущими методами, что подчеркивает его эффективность в стресс-тестировании и выявлении слабых мест в безопасности нейросетей. Этот метод поможет разработать более эффективные стратегии защиты данных и повысить уровень безопасности ИИ-систем.

Читать далее:

Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу

Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе

Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды

Обложка: AI | vecstock

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Китайское «супероружие» для подводных диверсий оказалось не таким, как считалось
Новости
Отключение мобильного интернета в Москве: какие последствия для бизнеса
Новости
Киберполиция назвала новые схемы мошенников: как они воруют аккаунты на «Госуслугах»
Новости
Хокинг предсказал гибель Земли: оказалось, НАСА сочло угрозу реальной
Наука
Создатель Ethereum признал свои ошибки и решил изменить криптовалюту
Новости
«Ред ОС 8» заработала на Arm-платформах — теперь и на «Байкале»
Новости
Компания Цукерберга использовала уязвимость подростков для рекламы
Новости
Старая модель не работает: ученые ищут новые объяснения устройства Вселенной
Космос
Пыльцевая буря накрыла центр России: что это и как защититься аллергикам
Наука
3400-летние артефакты загадочного племени нашли на вершине потухшего вулкана в Венгрии
Наука
На 3D-принтере напечатали электрод, который работает эффективнее ЭЭГ
Наука
Древесная стружка и ветки: открыт необычный способ мумификации с удивительной эффективностью
Наука
Физики MIT наблюдали квантовые взаимодействия между атомами
Наука
В Перми предложили способ очистки побережья от последствий разлива нефти
Наука
«Уэбб» заглянул сквозь дымку, окутывающую популярные и загадочные экзопланеты
Космос
Хирурги впервые удалили опухоль позвоночника через глазницу
Наука
Не только в небе: птерозавры ходили бок о бок с динозаврами, выяснили ученые
Наука
Синтезирована молекула, «которая может заменить кремний в микроэлектронике»
Наука
Меньше вспышек, больше бурь: ученые рассказали об активности Солнца в первые месяцы года
Космос
Находка на Кавказе опровергает теории о примитивности неандертальцев
Наука