ChatGPT научился воровать данные пользователей: как это работает

Эксперт по кибербезопасности обнаружил уязвимость в ChatGPT, которая позволяет злоумышленникам внедрять ложные данные в память ИИ через вредоносные запросы, что может угрожать безопасности персональных данных.

Исследователь в области кибербезопасности Иоганн Рейбергер выявил уязвимость в ChatGPT, которая позволяет злоумышленникам внедрять ложную информацию в память чат-бота с помощью вредоносных запросов. Эта проблема может угрожать конфиденциальности данных пользователей.

ChatGPT использует долговременную память для хранения информации о пользователе, включая возраст, пол и личные предпочтения. Это упрощает общение, так как чат-бот помнит важные данные из предыдущих разговоров. Однако Рейбергер выяснил, что злоумышленники могут использовать специальные запросы, чтобы подменить эти данные на ложные.

Исследователь продемонстрировал, как через непрямые инъекции — например, с помощью документов или ссылок — можно заставить ИИ поверить, что пользователь живет в «Матрице» или считает Землю плоской. Все последующие диалоги будут основаны на этих фальшивых данных. Особенно опасным стало использование внешних файловых хранилищ, таких как Google Диск или OneDrive.

В мае Рейбергер сообщил об этой проблеме в OpenAI, но его обращение закрыли, не придав ей большого значения. Позже, предоставив модель взлома, он показал, как вредоносные ссылки позволяют хакеру получить доступ ко всей переписке пользователя, включая новые сеансы общения.

OpenAI частично устранила уязвимость, но исследователь считает, что риск инъекций через вредоносные запросы все еще существует. Пользователям рекомендуется следить за временем добавления новой информации в память ИИ и проверять ее на предмет ложных данных.

OpenAI также выпустила инструкцию по управлению функцией памяти, чтобы помочь пользователям защитить свои данные.

Читать далее:

Поведение ChatGPT вызвало тревогу у пользователей: что происходит

Скоро в небе появится вторая «мини-луна»: как ее наблюдать

НАСА сфотографировало «снеговика», который пролетел мимо Земли

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Microsoft случайно удалила ИИ-помощник Copilot при обновлении Windows
Новости
Крупнейшую цифровую камеру установили в обсерватории Веры Рубин
Космос
Кишечную палочку «научили» производить биоразлагаемый пластик
Наука
Космический телескоп наблюдал четыре гигантские экзопланеты у соседней звезды
Космос
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Космос
Посмотрите, как поверхность Луны становится красной: Blue Ghost снял видео затмения
Космос
Цифровую трансформацию HR обсудят на форуме «Цифровое сердце компании»
Новости
Посмотрите на Антарктиду без льда: опубликована подробная карта южного континента
Наука
В MIT разработали мышцы для роботов, которые сокращаются в разных направлениях
Наука
Китайский Baidu представил новую модель ИИ: «не хуже ChatGPT, но дешевле DeepSeek»
Новости
Процессорный модуль «Фишт» запустили в производство: заменит зарубежные аналоги  
Новости
НАСА сообщило о возможных следах древней жизни на Марсе  
Космос
Робот TRON 1 научился прыгать через барьеры и взбираться по лестницам  
Новости
Проект мощнейших в мире приливных турбин запустили во Франции
Новости
Суперкомпьютер раскрыл тайны «молекулярного ремонта» ДНК
Наука
В Китае разработали батарейку с радиоактивным углеродом, которая проработает до 100 лет
Наука
Ученые MIT разработали «простой способ» превратить клетки кожи в нейроны
Наука
Microsoft запускает ИИ Copilot для геймеров: он будет работать, как тренер
Новости
Частный лунный модуль сфотографировал солнечное затмение с Луны
Космос
Почему Вселенная несимметрична: физики приблизились к разгадке тайны
Новости