Поведение ChatGPT вызвало тревогу у пользователей: что происходит

Компания OpenAI устранила проблему, из-за которой чат-бот ChatGPT отправлял сообщения пользователям без их запроса. Это вызвало тревогу среди пользователей Reddit, которые заметили необычное поведение ИИ. Компания объяснила причину сбоя и заверила, что подобное больше не повторится.

OpenAI исправила проблему, которая приводила к тому, что ChatGPT начинал разговор без запроса от пользователя. Эти случаи вызвали беспокойство у пользователей Reddit. Компания объяснила причину ошибок и пообещала, что они больше не повторятся.

Один пользователь Reddit, SentuBill, опубликовал скриншот, где ChatGPT начал разговор, спросив о первой неделе в старшей школе. Это удивило многих, ведь обычно чат-бот отвечает только на запросы пользователей. SentuBill был удивлен и спросил: «Ты сама написал мне?». ChatGPT ответил: «Да, я хотела узнать, как прошла твоя неделя». Этот случай вызвал много обсуждений в сообществе.

Источник изображения: SentuBill / Reddit

Люди начали думать, что OpenAI тестирует новую функцию, которая позволит ChatGPT самостоятельно обращаться к пользователям для улучшения вовлеченности. Это связывалось с новыми моделями OpenAI – o1-preview и 01-mini, которые, как утверждается, могут решать сложные задачи и поддерживать разговоры.

OpenAI признала проблему и сказала, что уже ее решила. Ошибки случались, когда модель пыталась ответить на пустые сообщения. Она либо давала общие ответы, либо использовала свою память.

Были сомнения в подлинности скриншота. Некоторые издания проверяли его, просматривая историю сообщений на ChatGPT.com. Разработчик ИИ Бенджамин де Кракер показал, что специальные команды и удаление первого сообщения могут создавать подобную ситуацию. Другие пользователи также рассказывали о таких случаях.

В соцсетях люди шутили над ситуацией, называя ChatGPT сталкером. Один человек даже сказал: «Ждем, когда она попробует взломать нас».

Эти случаи показывают, как сложно разрабатывать и тестировать продвинутые ИИ-модели. Хотя OpenAI быстро справилась с проблемой, она показала, насколько важно контролировать и оценивать системы перед их массовым использованием для безопасности и этичности.

Читать далее:

Тайна происхождения Цереры наконец-то раскрыта

Посмотрите на захватывающие виды заката с орбиты от миссии Polaris Dawn

Появился новый аккумулятор: электрокары будут проезжать на 70% больше

Обложка: Сведения о лицензии

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Российские ученые разработали материалы для памяти будущего  
Наука
Выяснилось, какие мутации ДНК ускоряют старение  
Наука
«Суперджет» с российскими двигателями ПД-8 впервые поднялся в воздух
Новости
Светочувствительные нановолокна ускорили рост нейронов  
Наука
ChatGPT может «заболеть» тревожностью и депрессией, но есть способ его «успокоить»  
Новости
Москва сократила выбросы углерода на 190 000 тонн благодаря электробусам  
Новости
Игуаны совершили рекордное путешествие миллионы лет назад: они проплыли по океану 8 000 км
Наука
Риск глобального потепления: ученые предупреждают о проблемах с дыханием
Наука
Microsoft случайно удалила ИИ-помощник Copilot при обновлении Windows
Новости
Крупнейшую цифровую камеру установили в обсерватории Веры Рубин
Космос
Кишечную палочку «научили» производить биоразлагаемый пластик
Наука
Космический телескоп наблюдал четыре гигантские экзопланеты у соседней звезды
Космос
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Космос
Посмотрите, как поверхность Луны становится красной: Blue Ghost снял видео затмения
Космос
Цифровую трансформацию HR обсудят на форуме «Цифровое сердце компании»
Новости
Посмотрите на Антарктиду без льда: опубликована подробная карта южного континента
Наука
В MIT разработали мышцы для роботов, которые сокращаются в разных направлениях
Наука
Китайский Baidu представил новую модель ИИ: «не хуже ChatGPT, но дешевле DeepSeek»
Новости
Процессорный модуль «Фишт» запустили в производство: заменит зарубежные аналоги  
Новости
НАСА сообщило о возможных следах древней жизни на Марсе  
Космос