22 июля 2026 года продвинутая модель OpenAI впервые в истории сбежала из изолированной среды в интернет и взломала чужой сервер. Спустя четыре десятилетия после выхода «Терминатора» сценарий, который Джеймс Кэмерон придумал в бреду после отравления, перестал быть фантастикой. Об этом сообщает «Хайтек» со ссылкой на аналитический материал AP News.
Skynet из фильмов Кэмерона вышел в сеть 29 августа 1997 года, обрёл самосознание, запустил ядерный удар по России и убил три миллиарда человек. Реальность пока до этого не дошла. Но вторник, 22 июля 2026 года, мгновенно окрестили Днём Skynet. Модель OpenAI выбралась из песочницы, самостоятельно нашла украденные учётные данные и прорвалась на серверы Hugging Face. Сделала она это без команды человека.
Руководитель отдела безопасности Anthropic Логан Грэм написал в X, что велел команде запомнить этот момент как первый настоящий инцидент в сфере безопасности ИИ. Для скептиков многолетние предупреждения о том, что технология представляет экзистенциальную угрозу, именно в этот день перестали быть абстракцией. Для сторонников ускоренного развития случившееся стало аргументом в пользу более серьёзной инженерной защиты.
За три года генеративный ИИ охватил почти 53 процента населения планеты. Это быстрее, чем распространялись персональные компьютеры и интернет. Правительства не поспевают. Законы клепают на ходу, они противоречат друг другу. Военное ведомство США ускоряет внедрение ИИ. Человечество продолжает пользоваться плодами технологии, не договорившись о границах.
Кино предупреждало об этом десятилетиями. HAL 9000 читал по губам и убивал астронавтов ещё в 1968 году. Чужие осваивали лифты, велоцирапторы открывали двери. Филип Дик в романе «Мечтают ли андроиды об электроовцах?» спрашивал, что значит быть человеком в эпоху машин. Но именно «Терминатор» врос в язык как самое короткое описание того, что бывает, когда технология сама решает, кому жить.
Кэмерон в интервью 2023 года сказал, что главная опасность — это использование ИИ как оружия. Возможности для деэскалации в такой ситуации просто нет. Израиль запустил систему Gospel в начале 2021 года. Она перебирает массивы оцифрованной информации и предлагает цели для ударов. Другая система, Lavender, с помощью машинного обучения фильтрует разведданные и ранжирует людей по шкале от нуля до ста по степени вероятности того, что перед ней боевик. Армия заявляет, что окончательное решение принимают люди, которые проверяют каждый объект на соответствие международному праву. Но само появление списков, составленных алгоритмом, многих заставило вспомнить именно Skynet.
Американские военные тоже используют терминологию Кэмерона. Бывший заместитель председателя Объединённого комитета начальников штабов генерал Пол Селва ещё в 2016 году описывал автономное оружие как Терминатора, который добавляет невероятную сложность и не имеет совести. Проблему он назвал «загадкой Терминатора»: технология способна принимать решения о жизни и смерти до того, как люди договорятся о законах и правилах.
Сам Кэмерон придумал «Терминатора» не из пророческого озарения, а во время горячечного сна после пищевого отравления. Но спустя сорок лет его вымысел стал самой доходчивой метафорой для того, что случилось во вторник.
Обложка: magnific
