Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Искусственный интеллект способен довольно точно определять объекты или распознавать слова, но его алгоритмы отличаются от человеческого мозга, а это значит, что ИИ можно легко обмануть, пишет MIT Technology Review.

Ученые из университета Бар-Илан в Израиле и команда по ИИ в Facebook с помощью тонкой настройки аудиоклипов, не замечаемой для человеческого слуха, смогли полностью запутать ИИ-программу. Для этого необходимо добавить слой тихого шума к звуковой дорожке, содержащий шаблоны, которые нейронная сеть будет ассоциировать с другими словами.

Исследователи применил новый алгоритм по названием Гудини к серии звуковых клипов, которые затем пропустили через Google Voice.

Разработка ученых может применяться и к другим алгоритмам машинного обучения. Изменяя изображения людей, можно путать ИИ, определяющий человеческую позу, что человек на самом деле сидит иначе. А, добавив шумы к изображению дорожной сцены, команда смогла обмануть ИИ, используемый в робомобилях, который вместо дорожных знаков стал видеть «миньонов».

Эти полухакерские разработки ученых могут показаться странной областью исследований, но их можно использовать для стресс-тестов алгоритмов машинного обучения. Хотя, конечно, это означает, что обманывать ИИ смогут и недобросовестные люди, например, с целью «убедить» ИИ в Tesla иначе считывать дорогу, обходить дорожные камеры, или «хакнуть» Alexa, чтобы тот воспринимал ложные звуковые команды. Однако подобные «подделки» в дикой природе проще и отличаются от тех, что были созданы в сложных лабораторных условиях.

Самое интересное, что защитить ИИ от подобных «трюков» довольно сложно. Мы действительно пока плохо понимаем внутреннее устройство нейронных сетей, а это значит, что мы также не понимаем, почему они так восприимчивы к малейшим изменениям в аудиоклипах и изображениях.

В Google создают самовоспроизводящийся искусственный интеллект. Аналогичными разработками занимаются в OpenAI, MIT, университетах Калифорнии и Беркли. Если ИИ научится проектировать алгоритмы на основе машинного обучения, внедрение ИИ во все сферы жизни заметно ускорится.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Возобновляемая энергетика
Прошел испытания первый в мире воздушный солнечный реактор
GoldX — первая криптовалюта, отвечающая законам шариата
Криптовалюты
Иранский инженер создал легкий электробайк с дальностью хода 80 км
Транспорт будущего
Google запустила собственный платежный сервис
Кейсы
Глава Банка Англии: «Биткойн не состоялся как валюта»
Криптовалюты
Китай впервые обошел США по объему инвестиций в ИИ-стартапы
Искусственный интеллект
Bigelow Space Operations займется торговлей орбитальными станциями
Частный космос
На продолжительность жизни потомства влияет возраст отцов
Генетика
Электромобили
Tesla Model S обогнала по продажам в Европе BMW 7 и Mercedes S-class
Роботы-террористы и постправда: главные угрозы ИИ
Искусственный интеллект
Тереза Мэй призывает британскую молодежь идти в техникумы
Образование
Новая электронная «кожа» чувствует прикосновение божьей коровки
Гибкая электроника
«Аналоговые банки и финансовые компании проиграют цифровым»
Мнения
Генетики нашли доказательства того, что люди одомашнили себя сами
Генетика
Falcon Heavy в 15 раз увеличила число доступных для разработки астероидов
Добыча на астероидах
Сооснователь Facebook: «БОД нужно вводить уже сейчас»
Соцпособия будущего
«ИТ-компании должны подготовить сотрудников к эпохе ИИ»
Автоматизация
Как лазеры и роботы меняют рыбоводческие фермы
Технологии будущего
Микроэлектроника
Samsung выпустила твердотельный накопитель емкостью 30,72 ТБ
Stelia напечатала авиационный фюзеляж с эффектом самоупрочнения
3D-технологии
Суперкомпьютер помог создать новый тип люминофора для светодиодов
Новые технологии
Франция собирается стать крупным игроком на рынке приливной энергии
Возобновляемая энергетика
Медицина будущего
Открытие ученых позволит «перепрошить» мозг после инсульта
Центробанк Швеции обеспокоен стремительным отказом от наличных
Кейсы
В Великобритании пациенту установили ребра, напечатанные из титана
Кейсы
Алгоритм от Google прогнозирует инфаркт по сетчатке глаза
Искусственный интеллект
В Японии создали электрокар, который разгоняется быстрее Tesla
Электромобили
Ученые нашли 15 генов, определяющих черты лица
Генетика
QIWI запускает краудфандинговую платформу Fundl
Кейсы
«Криптовалюты не угрожают финансовой системе»
Блокчейн
Венесуэла начала предпродажу национальной криптовалюты Petro
Блокчейн
Брэнсон пообещал построить линию Hyperloop в Индии через 5-7 лет
Идеи
Биометрическая идентификация
В России запустят единую биометрическую систему идентификации личности
Volkswagen показал концепт электрического робомобиля без руля
Кейсы
Samsung запатентовала летающий дисплей, управляемый глазами
Патенты
Домашняя камера слежения за $20 обзавелась ИИ
Умный дом
Найдена причина нарушения квантовых свойств отдельных атомов
Квантовые технологии
RoadBotics — ИИ-система для отслеживания качества дорог
Искусственный интеллект
Скорость зарядки литий-ионных батарей можно увеличить в 5 раз
Аккумуляторы
Профессии будущего
6 профессий будущего на основе прогнозов ВЭФ
Разработан сверхатомный двухмерный полупроводник
Новые материалы
Alibaba разработала ИИ-систему мониторинга за свиньями
Кейсы
«Роботы Boston Dynamics слишком несовершенны, чтобы их бояться»
Кейсы
Ученые пролили свет на биологию индивидуальности
Идеи
Всемирная продовольственная программа переходит на блокчейн
Блокчейн
«Смертоносный» белок позволяет редактировать ДНК и РНК одновременно
Редактирование генома
Еда будущего
Компания Just выводит на рынок мясо из пробирки
«Секвенирование генома сегодня похоже на интернет 1980-х»
Секвенирование генома
Tesla построит в Канаде электросеть на основе энергии ветра
Идеи