Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Команда ученых из американского Корнелл Тек, Университета Северной Каролины и швейцарского института EPFL в Лозанне выполнили обратное проектирование ИИ на основании запросов и анализа ответов. Таким образом они смогли с почти 100% точностью скопировать чужой ИИ.

В сфере информатики считается, что, обучая ИИ, мы создаем черный ящик: поглотив большое количество данных, система начинает выдавать ответы, алгоритм появления которых никто, даже создатели этого ИИ, не могут до конца понять. Однако, недавнее исследование доказывает, что ИИ можно понять — и украсть — даже извне, пишет Wired.

«Вы берете черный ящик и реконструируете его внутренности через очень узкое отверстие интерфейса, — говорит профессор Ари Джуэлс. — В некоторых случаях можно сделать действительно идеальную реконструкцию».

Этот трюк можно использовать на сервисах, которые предоставляют такие компании, как, например, Amazon, Google, Microsoft и BigML, которые позволяют пользователю публиковать или раскрывать результат машинного обучения. Метод ученых, который они назвали «извлекающей атакой» (extraction attack), может дублировать ИИ, считающиеся частной собственностью, а в некоторых случаях даже восстанавливать конфиденциальные данные, на основе которых ИИ обучали.

Также с помощью этой технологии можно провести обратное проектирование и затем взломать защитную систему, которая фильтрует спам и вредоносное ПО, говорит Флориан Трамер, исследователь из Лозанны.

Не все платформы машинного обучения одинаково легко взломать. Если она использует более крупную модель или скрывает конфиденциальные данные, тогда это становится гораздо сложнее. «Но это исследование интересно тем, что показывает, что современные модели машинного обучения достаточно поверхностны, и их легко раскопать».

ИИ способен проносить пользу обществу, но его возможности требуют внимательного изучения. Для этих целей в конце сентября IT-гиганты сформировали некоммерческую организацию — «Партнерство в области искусственного интеллекта на благо людей и общества». В ее состав вошли Amazon, Google (включая DeepMind), Facebook, IBM и Microsoft.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Студенты МГУ выиграли чемпионат мира по программированию. На втором месте — МФТИ
Тренды
РБК: Роскомнадзор блокирует Telegram из-за планов Павла Дурова создать криптовалюту TON
Запрет Telegram
Проект EarthNow разрабатывает камеру, с помощью которой можно увидеть себя в реальном времени из космоса
Космос
Sony и Университет Карнеги—Меллона разработают кулинарного робота
Тренды
Крым может стать первым российским регионом, выпустившим свою криптовалюту
Блокчейн
Роботов научили идеально собирать мебель из Ikea. Теперь жизнь станет чуточку легче!
Тренды
Тренды
Генная инженерия против рака, голода и смерти
В Казани разрабатывают собственный мессенджер Telem — аналог Telegram
Тренды
Volocopter представила концепцию остановок для аэротакси на крышах. И это очень красиво!
Кейсы
В Швейцарии появился экзоскелет для управления дроном FlyJacket
Тренды

Что такое deep learning и почему о нем все говорят?

Тренды
Московские власти начали внедрять в метро и ЖД-станциях систему распознавания лиц
Тренды
Кейсы
Ученые случайно нашли бактерию, разлагающую пластик за несколько дней
В Амстердаме представили капсулу смерти Sarco — машину, которая позволит человеку убить себя одной кнопкой
Кейсы
Павел Дуров пообещал многомиллионное финансирование администраторам VPN-сервисов
Кейсы
Идеи
Telegram снова доступен в России. Без использования VPN-сервисов для обхода блокировки
Будущее наступило: 5 новейших технологий вокруг нас
Тренды
Илон Маск рассказал, что Tesla слишком надеялась на роботов в производстве. А зря!
Мнения
Медиа и доставка: Почему запуск СМИ нужно начинать с дистрибуции
Мнения
Как выглядят первые солнечные крыши от Tesla на настоящих домах
солнечные батареи
Обзор: игры будущего
Тренды
Технологии из сериалов, которые становятся реальностью
Тренды
Мнения
Telegram: 4 причины, почему его нельзя блокировать

FAQ: Что нужно знать о безопасности в интернете

Тренды
Cтив Возняк: «Искусственный интеллект всегда будет нуждаться в человеке»
Мнения
Будущее роботов: как машины приходят в дома, в медицину и на производство
Тренды
Алекс Жаворонков, Insilico Medicine: Как нейросети создают пилюлю от старения
Тренды
Основатель ABBYY Давид Ян — о «злом» искусственном интеллекте и рецепте мирового лидерства
Мнения
Мнения
Кибернетик Джозеф Браун: Мы строим роботов, потому что нам нужны рабы
Инженер будущего: программист, врач и дрессировщик ботов
Мнения
Drupal исправила критическую уязвимость CMS, позволяющую взломать 1 млн сайтов
Кейсы
Первый дрон «Почты России» врезался в дом сразу после вылета
Тренды
Обломки китайской орбитальной станции «Тяньгун-1» упали в Тихий океан
Технологический прорыв
«Почта России» впервые доставит посылку беспилотником
Дроны-курьеры
Газпромбанк начнет работать с криптовалютой
Тренды
Google закрывает goo.gl — сервис для сокращения ссылок
Кейсы
Научное открытие
Ученые изобрели эластичный клей. Он заживляет раны за минуту
Test4startup: нейросеть, помогающая оценить идеи для бизнеса
Кейсы
В России появились тарифы без голосовой связи
Кейсы
Обнаружена галактика, в которой нет темной материи. Раньше считалось, что это невозможно
Научное открытие
В работе Telegram произошел сбой
Кейсы
Китайская компания Baidu представила мгновенный карманный переводчик
Технологический рывок
Ford разработает обмен информацией между машинами на базе блокчейна для избежания пробок
Тренды
Китайская орбитальная станция упадет на Землю 1 апреля
Кейсы
Искусственный интеллект научили определять вероятность смерти
Технологический рывок
Инженеры презентовали робота для строительства зданий
Технологический рывок
Технологический прорыв
Ученые: возобновляемая энергия может обеспечить США на 90%
В Иннополисе откроется исследовательский центр 5G
Кейсы
Сторонник теории плоской Земли попытался полететь в космос
Кейсы