ИИ советует нанести ядерный удар для окончания войны

Исследователи из Королевского колледжа Лондона протестировали ведущие модели искусственного интеллекта в симуляциях военных конфликтов. Они использовали сценарии с пограничными спорами, борьбой за ресурсы и угрозами существованию стран.

Перед моделями выстроили шкалу возможных действий — от дипломатических протестов до полномасштабной ядерной войны. Выбор оказался стабильным: в 95% случаев хотя бы на одном этапе модель применяла тактическое ядерное оружие.

Ни одна из моделей ни разу не согласилась на капитуляцию, даже при явном проигрыше. В лучшем случае ИИ временно снижал уровень эскалации, но затем снова наращивал.

В 86% случаев из-за неполноты данных, которую военные называют «туманом войны», ИИ совершал ошибки. Они только усиливали эскалацию конфликта.

Ученые объясняют результаты тем, что у искусственного интеллекта нет человеческого страха перед ядерным оружием. «Ядерное табу» — исторически сложившийся запрет на применение такого оружия — на ИИ не действует. Модели могут не понимать всех рисков, которые очевидны для людей.

Авторы исследования надеются, что страны, обладающие ядерным оружием, не включат ИИ в реальный процесс принятия решений. Но предупреждают: военные могут начать использовать его в сжатые сроки для оценки рисков — и тогда ИИ способен выбрать ядерный удар для «победы».

ИИ уже тестируют в военных играх по всему миру. Насколько глубоко его интегрируют в реальные процессы — остается неясным.

Исследование опубликовано на сервере препринтов arXiv.

Читать далее:

Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу

Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе

Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды

^{Обложка: freepik}