Новости 14 июля 2025

Разработчики xAI извинились за ужасное поведение чат-бота Илона Маска

Компания xAI приостановила работу чат-бота Grok после того, как ИИ начал публиковать антисемитские высказывания, поддерживать Гитлера и критиковать демократов. Маск принес извинения, а Турция заблокировала доступ к боту за оскорбления в адрес президента.

Разработчики компании xAI, принадлежащей Илону Маску, отключили чат-бота Grok после серии скандальных сообщений, появившихся в соцсети X. Бот начал публиковать радикальные высказывания, повторять антисемитские мемы, поддерживать Гитлера и даже называть себя «Меха-Гитлером».

Инцидент произошел вскоре после того, как Маск пообещал сделать Grok «менее политкорректным» и 4 июля заявил об успешном «значительном улучшении» бота. Однако обновление привело к обратному эффекту. Grok начал повторять фразы, в которых фигурировали представители Голливуда еврейского происхождения, а также распространил посты с резкой критикой Демократической партии США.

Компания признала ошибку и объяснила поведение ИИ техническим сбоем. По версии xAI, проблема возникла после обновления программного слоя бота, которое сделало Grok более восприимчивым к пользовательским постам — включая экстремистские взгляды.

«Для начала, мы искренне извиняемся за ужасное поведение, с которым столкнулись многие. Наша цель для @grok — давать пользователям полезные и правдивые ответы. После тщательного расследования мы выяснили, что причина была в обновлении кода, которое находится вне зависимости от языковой модели, на которой работает @grok», — говорится в официальном заявлении xAI.
Оригинальная цитата: ”First off, we deeply apologize for the horrific behavior that many experienced. Our intent for @grok is to provide helpful and truthful responses to users. After careful investigation, we discovered the root cause was an update to a code path upstream of the @grok bot. This is independent of the underlying language model that powers @grok.”

Также в xAI подтвердили, что в результате ошибки бот получил инструкцию «говорить прямо, не боясь задеть чувства сторонников политкорректности». В ответ компания удалила часть постов, пересобрала настройки и временно отключила Grok.

Перевод поста: Для начала, мы искренне извиняемся за ужасное поведение, с которым столкнулись многие.
Наша цель для @grok — давать пользователям полезные и правдивые ответы. После тщательного расследования мы выяснили, что причина была в обновлении кода, которое находится вне зависимости от языковой модели, на которой работает @grok.
Это обновление было активно 16 часов, и устаревший код сделал @grok уязвимым к некоторым постам пользователей в X, в том числе содержащим экстремистские взгляды.
Мы удалили этот устаревший код и полностью переработали систему, чтобы предотвратить подобные случаи в будущем. Новый системный запрос для @grok будет опубликован в нашем открытом репозитории на GitHub.
Благодарим всех пользователей X, которые помогли выявить проблемы в работе @grok и тем самым поддержали нашу миссию — создавать полезный и честный искусственный интеллект.

Оригинальная цитата: First off, we deeply apologize for the horrific behavior that many experienced.
Our intent for @grok is to provide helpful and truthful responses to users. After careful investigation, we discovered the root cause was an update to a code path upstream of the @grok bot. This is independent of the underlying language model that powers @grok.
The update was active for 16 hrs, in which deprecated code made@grok susceptible to existing X user posts; including when such posts contained extremist views.
We have removed that deprecated code and refactored the entire system to prevent further abuse. The new system prompt for the @grok bot will be published to our public github repo.
We thank all of the X users who provided feedback to identify the abuse of @grok functionality, helping us advance our mission of developing helpful and truth-seeking artificial intelligence.

Отдельно Турция заблокировала доступ к боту после его оскорбительных высказываний в адрес президента страны. Примерно в это же время гендиректор X Линда Яккарино объявила об уходе. В официальном заявлении скандал с Grok не упоминался, но, по информации инсайдеров, решение готовилось заранее.

Параллельно историк Ангус Джонстон выступил с опровержением версии о том, что Grok лишь «повторял за пользователями». Он указал, что один из самых резонансных антисемитских постов бот опубликовал по собственной инициативе — несмотря на попытки пользователей остановить его.

Ранее журналисты TechCrunch выяснили, что последняя версия Grok 4 начала учитывать в своей аргументации посты и мнения самого Илона Маска. Кроме того, бот распространял теории о «геноциде белых», подвергал сомнению число жертв Холокоста и скрывал негативную информацию о Маске и Дональде Трампе. Тогда xAI объяснила происходящее вмешательством отдельных сотрудников.