Google продемонстрировала, как созданные компанией нейронные сети в случае опасности создают новый способ шифрования. Каждый раз, когда кто-то пытался атаковать нейронную сеть, она усложняла алгоритм шифрования передаваемой информации, пишет Quartz.
Чтобы выяснить, смогут ли нейросети самостоятельно учиться шифрованию, подразделение Google Brain использовало глубокое машинное обучение, создав специальную демонстрационную игру с тремя самыми известными в мире криптографии персонажами: Алиса, Боб и Ева — под каждым из ников скрывается нейросеть.
Персонажи осуществляют свои традиционные задачи: Алиса зашифровывает и пересылает сообщение из 16 нулей и единиц Бобу, который это сообщение должен верно расшифровать. Перед началом игры два бота обмениваются общим ключом к шифру — основой того, что участники верно поймут друг друга.
Задача третьего игрока — Евы — смоделировать атаку типа MITM (man in the middle). Ева условно располагается на пути передаваемого Алисой сообщения и пытается украсть/изменить содержимое так, чтобы Боб не заметил, что до него сообщение видел кто-то еще. В созданной Google демонстрации Алиса оказалась не такой простой и каждый раз трансформировала способ шифрования сообщений, чтобы Еве не удалось получить информацию, которая в них содержится. Вслед за Алисой механизм расшифровки также менял и Боб.
Физики описали возможность обойти Второй закон термодинамики
Идеи
Успех Евы оценивался тем, как точно она сможет расшифровать украденное сообщение. Результат Алисы состоял в том, насколько далеким от оригинала будет расшифровка Евы. А Боб оценивался по тому, достиг ли он заранее обозначенного порога в получении верных сообщений.
В ходе теста первые 7000 сообщений не подвергались сложному шифрованию. Соответственно, Боб с легкостью получал содержимое, но информация также доставалась и Еве. В итоге, на следующих 6000 сообщениях Алиса и Боб самостоятельно усложнили алгоритм шифрования. У Евы не осталось шансов: из 16 символов она стабильно ошибалась в 7-8, в то время как Боб получал точную информацию.
К 2021 году миром будет править большая семерка IT-компаний
Мнения
В результате ученые добились того, что нейросети самостоятельно приспособились к угрозе и усложнили механизмы защиты. На данный момент сами ученые не понимают, как именно нейросетям удалось построить новый алгоритм. Для этого им потребуется время и анализ. Ранее Google начала тестировать так называемую «постквантовую криптографию». ИТ-гигант активно готовится к наступлению новых видов киберугроз.