Гибридная система из человека и искусственного интеллекта способна предсказывать кибератаки с вероятностью успеха 85%, тогда как по-одиночке они справляются не так хорошо. Так считают инженеры МТИ и стартапа PatternEx, запустившие проект AI2, объединяющий усилия аналитиков и компьютеров в поиске аномалий.
Платформа была протестирована на 3,6 миллиардах единиц данных, сгенерированных миллионами пользователей за три месяца. Доклад о результатах был сделан на международной конференции по безопасности IEEE.
«Можно представить себе эту систему как виртуального аналитика, — говорит Калиан Веерамачанени, ученый из МТИ, разработавший AI2 вместе с Игнасио Арналдо, главным информационным аналитиком PatternEx. — Он постоянно создает новые модели, которые может улучшать за несколько часов, то есть существенно и быстро совершенствовать скорость обнаружения».
В сфере кибербезопасности технологии, созданные для людей, основаны обычно на правилах, разработанных самими людьми, и могут не заметить атаку, не подпадающую под эти правила. Подход машинного обучения, с другой стороны, нацелен на обнаружение аномалий, и обходит ложно положительные результаты, что вызывает недоверие к системе и снова требует проверки человеком.
Сложность создания гибридной системы человек-ИИ в том, что приходится вручную помечать данные для алгоритма. Для многих задач, например, распознавания изображений, это решается подключением нескольких добровольцев на сайтах краудсорсинга, вроде Amazon Mechanical Turk. Но не все способны распознать DDOS или эксфильтрацию данных, считает Веерамачанени. «Для этого нужны эксперты по безопасности», — говорит он.
Составлен рейтинг самых защищенных от кибератак стран
Новости
Но эксперты обычно заняты, поэтому AI2 использует машинное обучение сперва для решения самых важных проблем. В первый день компьютер выбирает 200 самых аномальных событий и передает их аналитику. Тот помечает атаки и передает данные машине для сбора следующих данных. Поскольку компьютер учится, число событий, которое он передает для оценки, постоянно сокращается, говорит представитель МТИ.