Платформа Kaggle заставит ИИ сражаться, чтобы стать сильнее

Битвы алгоритмов будут проходить в течение следующих 5 месяцев. Весь процесс будет выстроен в форме испытания или конкурса, в ходе которого ИИ должны будут проявить силу своего «ума», хитрость и способность выявлять чужие слабости. Алгоритмы будут пытаться обмануть и исследовать друг друга. Организаторы надеются, что такое соревнование даст представление о том, в каком направлении следует развивать технологии, чтобы создать самые эффективные алгоритмы защиты от киберугроз.

Состязание будет состоять из трех этапов. На первом нужно просто запустить нейронную сеть и показать, что она выполняет именно то, что должна. Во время второго этапа сеть будут стараться всеми силами ввести в заблуждение и заставить работать неправильно. А третий этап будет посвящен разработке систем защиты от такого обмана.

Уже давно известно, что алгоритмы машинного обучения могут быть обмануты. Например, хакеры вводили самые продвинутые системы распознавания образов в заблуждение, подсовывая им абстрактные картинки, содержащие базовые образы, на основе которых алгоритмы распознают более крупные объекты. Работа таких систем вставала. Определить заранее слабости таких алгоритмов сложно. «Заранее не всегда ясно, эффективно ли обманывает один алгоритм или хороша степень защиты у другого, — объясняет организатор соревнования и исследователь Google Brain Ян Гудфеллоу. — Но непосредственная битва таких алгоритмов выявляет и сильные, и слабые стороны».

Исследователь отмечает, что в будущем атаки будут все более автоматизированными и интеллектуальными. Обученные нейросети будут нападать на другие ИИ. И важно уметь этому противостоять. Логично, что с ИИ следует бороться более умным и сильным ИИ, говорит Гудфеллоу. Конкурс также призван обратить внимание на то, что машинное обучение становится популярным не только в научной или бизнес среде, но и среди злоумышленников. Kaggle надеется привлечь как можно больше специалистов для сотрудничества и работы над этой проблемой.

Технологии ИИ становятся все более популярными и рекламируемыми. Согласно некоторым прогнозам, к 2020 году не будет ни одной новой программы или устройства без ИИ на борту. Но агентство Gartner считает, что хайп вокруг ИИ идет во вред технологии и потребителям. Также считают в издании Wired, которое недавно обвинило Маска в том, что его выдумки о роботах-убийцах отвлекают от реальных проблем ИИ.