Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Создатели заявляют, что только в схватке друг с другом ИИ могут стать по-настоящему сильными. А сильные алгоритмы будут служить на благо человечества, защищая критически важную инфраструктуру от нападения уже зловредного ИИ. Бои пройдут на платформе для соревнований по большим данным Kaggle, пишет Technology Review.

Битвы алгоритмов будут проходить в течение следующих 5 месяцев. Весь процесс будет выстроен в форме испытания или конкурса, в ходе которого ИИ должны будут проявить силу своего «ума», хитрость и способность выявлять чужие слабости. Алгоритмы будут пытаться обмануть и исследовать друг друга. Организаторы надеются, что такое соревнование даст представление о том, в каком направлении следует развивать технологии, чтобы создать самые эффективные алгоритмы защиты от киберугроз.

Состязание будет состоять из трех этапов. На первом нужно просто запустить нейронную сеть и показать, что она выполняет именно то, что должна. Во время второго этапа сеть будут стараться всеми силами ввести в заблуждение и заставить работать неправильно. А третий этап будет посвящен разработке систем защиты от такого обмана.

Уже давно известно, что алгоритмы машинного обучения могут быть обмануты. Например, хакеры вводили самые продвинутые системы распознавания образов в заблуждение, подсовывая им абстрактные картинки, содержащие базовые образы, на основе которых алгоритмы распознают более крупные объекты. Работа таких систем вставала. Определить заранее слабости таких алгоритмов сложно. «Заранее не всегда ясно, эффективно ли обманывает один алгоритм или хороша степень защиты у другого, — объясняет организатор соревнования и исследователь Google Brain Ян Гудфеллоу. — Но непосредственная битва таких алгоритмов выявляет и сильные, и слабые стороны».

Исследователь отмечает, что в будущем атаки будут все более автоматизированными и интеллектуальными. Обученные нейросети будут нападать на другие ИИ. И важно уметь этому противостоять. Логично, что с ИИ следует бороться более умным и сильным ИИ, говорит Гудфеллоу. Конкурс также призван обратить внимание на то, что машинное обучение становится популярным не только в научной или бизнес среде, но и среди злоумышленников. Kaggle надеется привлечь как можно больше специалистов для сотрудничества и работы над этой проблемой.

Технологии ИИ становятся все более популярными и рекламируемыми. Согласно некоторым прогнозам, к 2020 году не будет ни одной новой программы или устройства без ИИ на борту. Но агентство Gartner считает, что хайп вокруг ИИ идет во вред технологии и потребителям. Также считают в издании Wired, которое недавно обвинило Маска в том, что его выдумки о роботах-убийцах отвлекают от реальных проблем ИИ.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Ученые установили скорость движения нейтрино. Она почти равна скорости света
Тренды
На жалобы россиян чиновники будут реагировать прямо в социальных сетях. СММ заработал!
Тренды
Капсула Hyperloop разогналась до 466 км/ч. Это новый рекорд
Идеи
Физики получили сверхпрочные материалы-нитриды с помощью простого способа прямого синтеза
Кейсы
НАСА запустила платную подписку на данные со спутников
Идеи
Российские ученые создали четвероногого робота — аналог Boston Dynamics
Идеи
Тренды
В США разрешили публиковать чертежи для печати 3D-оружия
Появился первый 4D-тур по винокурне
Тренды
ИИ научился предсказывать реакции химических элементов и находить новые соединения
Тренды
Facebook снова разрабатывает спутники для раздачи интернета из космоса
Тренды
Ученые представили датчик, который определяет уровень гормона стресса через пот
Тренды
Тренды
Децентрализованная альтернатива YouTube запустится в октябре
Жить по-умному: как защитить свой дом и не бояться киберугроз
Умный дом
Андрей Синогейкин, Wonder Technologies, — об искусственных алмазах
Тренды
Никита Бокарев, ESforce, — о деньгах, киберспорте и его немаргинальности
Тренды
Тренды
YouTube-депрессия: как создатели популярных каналов боятся потерять подписчиков и разум
Гельмут Райзингер, Orange Business Services, — об IIoT, 5G и телеком-стартапах
Мнения
«Робот берет вас на работу»: как искусственный интеллект, блокчейн и VR подбирают персонал
Мнения
Телемедицина, роботы и умные дома: каким через 5 лет будет «оцифрованный» город в России
Тренды
Мясная революция: как перейти от веганских заменителей к клеточным технологиям и биореакторам
Идеи
AI-выборы: как искусственный интеллект и голосовые помощники сделают демократию лучше
Тренды
Идеи
Тупик для беспилотников: как мечты разработчиков разбиваются о неожиданности на дорогах
Здесь нужен InsurTech: за какими стартапами будущее страхования
Мнения
Вирус лженауки в Google: как поисковые системы распространяют опасные мифы о прививках
Идеи
«Кто-то управляет моим домом»: как жертв домашнего насилия терроризируют с помощью умных устройств
Умный дом
Паскаль Фуа, EPFL, — о ключевых точках, глубоких нейросетях и эпиполярной геометрии
Мнения
20 фильмов о кибербезопасности, взломах и цифровых преступлениях
Тренды
Ян Лекун, Facebook: «Прогностические модели мира — решающее достижение в ИИ»
Мнения
Джианкарло Суччи: «Попытка спроектировать программу без багов — утопия»
Иннополис
Game out: Как видеоигры обучают детей-аутистов держать равновесие и узнавать людей
Тренды
Прослушка, контроль камеры и предсказание смерти пользователя: самые странные патенты Facebook
Кейсы
Цес Снук, QUVA: «Мы не хотим зависеть от крупных компаний, которые владеют всеми данными»
Мнения
Дмитрий Песков, АСИ: «В России традиционно долго запрягают, и в сфере IT мы только этим и занимаемся»
Иннополис
Мнения
ДНК-тесты: как генетические компании обманывают людей и разрушают семьи
Мануэль Маццара: «Для Facebook вы не покупатель, вы — продукт»
Иннополис
Тренды
Блокчейн, искусственное мясо и «смерть» смартфонов: что будет с технологиями через 10 лет
Витторио Феррари, Google: «Чтобы машина распознала книгу о Гарри Поттере нужна сложная математическая модель»
Мнения
7 медицинских технологий, которые скоро придут в российские больницы
Идеи
Руслан Зайдуллин, основатель Doc+, — о том, что делать Минздраву и о проблемах в российской медицине
Мнения
Ричард Вдовьяк, Philips: «В будущем диагностировать заболевания будут не только врачи, но и сами пациенты»
Тренды
Шедевры за биткоины: Как криптовалюта меняет рынок искусства
Блокчейн
Почему «московий» и «оганесон» устроили раскол между физиками и химиками?
Кейсы
Сэр Харшад Бадехиа — о бронежилетах будущего, русских математиках и металлургии
Тренды
«Надежнее золота»: блокчейн в цифрах
Блокчейн
Бас Лансдорп, Mars One: «Моя жена отдала бы все, чтобы не лететь на Марс»
Полет на Марс
Как big data, блокчейн и 3D-печать сделали пищу полезнее
Мнения
Томас Циммерман, IBM, — о том, как остановить конец света, спасая планктон
Тренды
Тренды
Без Siri, Алисы и «Окей, Google»: как и зачем нас подслушивают собственные телефоны
Шрада Агарвал, Outcome Health: «Когда человек знает о своей болезни, от этого выигрывает и он, и фарма»
Мнения