Исследователи показали, как вредоносные программы прячут внутри моделей на основе ИИ

Исследователи из Китая показали, как можно спрятать вредоносное ПО внутри нейронной сети. Обнаружить его при этом очень сложно.

Исследователи внедрили вредоносное ПО в модель на основе ИИ под названием AlexNet без существенного изменения функций самой модели. Она продолжила идентифицировать изображения с практически такой же точностью, как и раньше. Это произошло потому, что количество слоев и общее число нейронов в сверточной нейронной сети фиксировано до обучения, что означает, что, как и в человеческом мозге, многие нейроны в обученной модели или включены или полностью бездействуют.

При этом вредоносное ПО, помещенное в модель, разбивалось на части, что препятствовало его обнаружению стандартными антивирусными системами. VirusTotal, сервис, который «проверяет объекты более чем 70 антивирусными сканерами и службами блокировки» не обнаружил никаких следов вируса.

В методе исследователей сначала нужно выбрать лучший слой для работы в уже обученной модели, а затем внедрить вредоносное ПО в этот слой. В существующей обученной модели — например, широко распространенном классификаторе изображений — влияние на количество нейронов не зафиксировали.

Однако исследователи отметили, что скрыть вредоносное ПО можно только в том случае, если не запускать его. Для того, чтобы запустить вредоносное ПО, оно должно быть извлечено из модели другой вредоносной программой, а затем приведено в рабочую форму. При этом плохая новость заключается в том, что модели нейронных сетей обычно огромны, поэтому злоумышленники могут скрыть в них огромное количество программ.

Исследователь кибербезопасности Лукаш Олейник отметил, что новая техника пока не может использоваться в полную силу. «Обнаружить вирус антивирусным программным обеспечением будет непросто, но это только потому, что никто не ищет. Однако эта техника может развиться и тогда у нас могут быть большие проблемы».


Читать далее

Выяснилось, что кишечник акул работает как клапан Никола Теслы

Впервые в истории 9 звезд исчезли за полчаса и не вернулись

Физики рассказали, что будет, если Луна приблизится к Земле

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Живые клетки обрабатывают информацию в миллиарды раз быстрее, чем считалось ранее
Наука
Яндекс опубликовал нейросеть YandexGPT 5 Lite в открытом доступе
Новости
Эксперты обсудили управление персоналом в эпоху цифровых технологий
Новости
Роспотребнадзор опроверг информацию о новом опасном вирусе в России
Новости
Последствия невесомости для скелета изучили на мышах-космонавтах
Космос
Томские химики создали экономичные катализаторы для зеленой промышленности
Наука
Ученые создали перчатку, с которой можно «ощущать» объекты в виртуальной реальности
Наука
Ученые в тупике: «Уэбб» засек невозможный свет в галактике
Космос
Новый сплав для имплантатов имитирует кость человека
Наука
РКН пообещал обезличить данные россиян, но эксперты сомневаются эффективности метода
Новости
Rutube недоступен в Турции: что происходит, блокировка или нет
Новости
Квантовый компьютер сгенерировал по-настоящему случайные числа
Новости
Загадка древних гигантов: ученые нашли организм, не похожий ни на что живое
Наука
Вскрытие мамонтенка Яны: в Якутии изучили древнюю тушу
Наука
Anthropic изучила «внутренний мир ИИ»: как языковые модели принимают решения
Новости
Дрон доставил обед: в Иннополисе испытали курьера с Telegram-управлением
Иннополис
Зонд Parker сблизился с Солнцем, собрав важнейшие данные
Космос
Спутниковую связь для обычных смартфонов протестируют в РФ
Новости
Российские ученые нашли безазотную замену тротилу и ракетному топливу
Наука
Российский рынок промышленной автоматизации удвоится к 2030 году, но есть сложности  
Новости