В России придумали, как защитить нейросети от утечек данных

Учёные из ведущих российских институтов представили революционный метод для защиты данных в нейросетях. GLiRA помогает выявить уязвимости и предотвратить утечку конфиденциальной информации. Об этом «Хайтеку» сообщили в пресс-службе Института AIRI.

Учёные из Института AIRI, ИЦДИИ ИСП РАН, Сбера, МТУСИ и Сколтеха разработали новый метод — GLiRA, предназначенный для анализа уязвимости нейросетевых моделей. Этот подход позволяет тестировать модели с помощью атак, чтобы выявить, какие данные использовались для их обучения. Такой метод помогает понять, как может происходить утечка персональных данных и какие уязвимости подвержены риску. Это особенно важно для защиты конфиденциальности в таких областях, как медицина и финансы, где важна защита личной информации.

GLiRA основывается на технологии дистилляции знаний и используется в условиях, когда атакующий не имеет доступа к внутренней структуре модели, а может только взаимодействовать с её интерфейсом. Это позволяет создавать теневые модели, которые могут воссоздавать поведение оригинальной модели и извлекать информацию о данных, на которых она обучалась.

Дистилляция знаний — это метод, при котором информация из сложной модели (учителя) передается более простой модели (ученику). Модель-ученик учится на выводах модели-учителя, что позволяет ей достигать хороших результатов с меньшими вычислительными затратами.

В результате исследований, GLiRA показал на 7% более высокую точность атак по сравнению с предыдущими методами, что подчеркивает его эффективность в стресс-тестировании и выявлении слабых мест в безопасности нейросетей. Этот метод поможет разработать более эффективные стратегии защиты данных и повысить уровень безопасности ИИ-систем.

Читать далее:

Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу

Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе

Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды

Обложка: AI | vecstock

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Boston Dynamics усовершенствовала систему восприятия гуманоидного робота Atlas
Новости
Наклейка на лоб анализирует мозговые волны и предсказывает переутомление
Наука
Посмотрите на робота-трансформера, который меняет форму прямо в полете
Новости
Китай отправил миссию за образцами горных пород с квазиспутника Земли
Космос
ИИ научился предсказывать успеваемость студентов по данным профиля в VK
Новости
Странная звезда Млечного Пути пульсирует каждые 44 минуты и это не объяснить
Космос
Этот OLED-экран сам издает звук: каждый пиксель работает как динамик
Новости
Посмотрите, как на Солнце идет дождь: астрономы увидели это впервые
Космос
Одно из главных доказательств Большого взрыва поставили под сомнение 
Космос
Университетский техпред — новый элемент высшего образования: студенты становятся предпринимателями
Наука
Илон Маск намекнул, почему ушел из администрации Трампа на самом деле
Новости
Илон Маск и Павел Дуров публично спорят из-за соглашения между Telegram и Grok
Новости
В мозге нашли нервные клетки, которые регулируют набор веса
Наука
Электросамолеты смогут летать дальше: MIT представил мощные топливные элементы
Наука
Anthropic открыла доступ к поиску для пользователей чат-бота с ИИ Claude
Новости
Противораковые препараты на треть увеличили срок жизни мышей
Наука
В Китае придумали, как решить проблему опасных вибраций в маглеве
Новости
Роботизированные комплексы для обучения студентов внедрят в российские вузы
Иннополис
Дуров договорился с xAI Маска продвигать ИИ Grok в Telegram
Новости
Камни для крокодилов и контроль качества альтушек: четвертый «ТехПредКлуб» прошел в Томске
Новости