Новый способ обучения ИИ остановит большинство хакерских атак на них

Ученые из США решили проблему хакерских атак на модели искусственного интеллекта (ИИ). Для этого они использовали другую модель, которая пыталась обмануть нейронную сеть и заставить ее проанализировать отредактированные изображения.

Исследователи Университета Иллинойса объяснили, что один из самых больших недостатков обучения ИИ — последующая уязвимость модели к хакерским атакам. При этом большинство атак приходится на системы распознавания образов или реконструкции изображений. Это вызывает тревогу у чиновников, которые работают в сфере здравоохранения, где метод часто используется для реконструкции медицинских изображений. Если ИИ получит неправильное изображение, то он может ошибочно поставить диагноз пациенту.

Поэтому ученые предложили новый метод обучения систем глубокого обучения, чтобы сделать их более отказоустойчивыми и надежными в тех случаях, которые являются критическими с точки зрения безопасности.

Для этого ученые соединили нейронную сеть, отвечающую за восстановление изображений, с моделью, которая генерирует состязательные примеры (изображения, где меняется небольшая часть оригинала). Во время обучения один ИИ пытался обмануть другой, показывая ему картинки, которые незначительно отличаются от оригинала. Модель реконструкции же постоянно анализировала картинки и пыталась определить, оригинал это или отредактированная картинка.

В результате сеть нашла все отредактированные фотографии — этот результат лучше, чем у других нейронных сетей. Во время экспериментов ученые попытались вручную взломать систему и показать ей сотни версий отредактированных изображений, но все из них были отклонены.


Читать также:

Комета NEOWISE видна в России. Где ее увидеть, куда смотреть и как сделать фото

Выяснилось, что заставило цивилизацию майя покинуть свои города

На 3 день болезни большинство больных COVID-19 теряют обоняние и часто страдают насморком

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Астрономы сфотографировали «детство Вселенной» до появления галактик
Космос
Прощальные кадры: лунный модуль сфотографировал закат на Луне
Наука
Гены загадочных предков людей повлияли на работу мозга, показало исследование
Наука
В Петербурге открыли лабораторию для создания компьютеров, которые имитируют работу мозга
Наука
Телескоп «Евклид» показал 26 млн галактик: опубликованы первые результаты миссии
Космос
Крошечных морских животных увеличили в пять раз, чтобы рассмотреть их клетки
Наука
В Сеченовском Университете появится «умная» операционная 
Новости
Операторы связи начали заменять китайское оборудование на российское
Новости
В России хотят обязать использование отечественных процессоров для ИИ
Новости
Посмотрите на первого робота-гуманоида Nvidia в действии
Новости
Образцы с обратной стороны Луны показали, какой она была в прошлом
Космос
Морские интернет-кабели научились «прослушивать» на предмет саботажа
Новости
Нового рекорда на термоядерном синтезе добились в России
Наука
Российские ученые разработали материалы для памяти будущего  
Наука
Выяснилось, какие мутации ДНК ускоряют старение  
Наука
«Суперджет» с российскими двигателями ПД-8 впервые поднялся в воздух
Новости
Светочувствительные нановолокна ускорили рост нейронов  
Наука
ChatGPT может «заболеть» тревожностью и депрессией, но есть способ его «успокоить»  
Новости
Москва сократила выбросы углерода на 190 000 тонн благодаря электробусам  
Новости
Игуаны совершили рекордное путешествие миллионы лет назад: они проплыли по океану 8 000 км
Наука