Чат-бот Google посоветовал пользователю умереть во время обычного диалога

Странную рекомендацию дал ИИ Gemini, ссылку на разговор опубликовал один из пользователей Reddit.

Серьезный инцидент произошел с искусственным интеллектом Google Gemini — во время обычного диалога система неожиданно выдала агрессивное сообщение, призывающее пользователя к смерти. Пример опасного разговора опубликовал на форуме Reddit пользователь с ником dhersie. Он также приложил ссылку на запись разговора с ИИ.

По словам пользователя его младший брат использовал нейросеть, чтобы выполнить домашнее задание по теме геронтологии. После примерно 20 стандартных запросов о проблемах пожилых людей и их благополучии без какой-либо видимой причины Gemini сгенерировал агрессивное сообщение, в котором назвала пользователя «пустой тратой времени и ресурсов» и «обузой для общества». Ответ нейросети кончается призывом к смерти.

Переписка пользователя с Gemini

Судя по опубликованной переписке, агрессивное поведение системы никак не связано с контекстом разговора — пользователь обсуждал социальные вопросы, связанные с пожилыми людьми. О случившемся немедленно r/artificial сообщил в Google.

В комментарии к публикации служба поддержки Google сообщила, что большие языковые модели иногда могут отвечать бессмысленными ответами, и это пример такой ситуации. «Этот ответ нарушил наши политики, и мы приняли меры для предотвращения подобных результатов», — отмечается в комментарии.

Хотя ранее уже сообщалось о случаях некорректного поведения ИИ, включая этически спорные ответы и дезинформацию, текущий инцидент выделяется своей явной агрессивностью. Ситуация поднимает важные вопросы о безопасности использования нейросетей и необходимости более строгого контроля над их поведением.


Читать далее:

Найден «межзвездый туннель» от Солнечной системы к соседней звезде

Археологи-любители из Польши нашли военный клад, спрятанный в XVII веке

Физики создали новую теорию «невозможной» квантовой гравитации

Иллюстрация на обложке сгенерирована Freepik AI

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Живые башни из червей: посмотрите на «суперорганизм», который нашли в саду
Наука
Имплантат сетчатки из нанопроводов восстановил зрение у мышей
Наука
На российских сайтах хотят запретить авторизацию через почту Google
Новости
ИИ против айтишников: как новые инструменты меняют ИТ-бизнес
Мнения
Оказалось, Apple Watch «обманывают» в подсчете калорий
Новости
Китай впервые проверил квантовую связь QSDC на борту многоразовой ракеты
Наука
В Москве пройдет форум MOSТИМ 2025 — обсудят цифровизацию в строительстве и выберут лучших в BIM
Новости
Россиянам могут заблокировать входящие звонки из-за рубежа
Новости
Страдающее «лицо» появилось на Солнце: ученые фиксируют поток частиц в сторону Земли
Космос
Маск и Трамп начали войну в соцсетях: что произошло и какие будут последствия
Кейсы
В Нижнем Новгороде создали «умный» материал для 3D-печати человеческих тканей
Наука
ИИ против супербактерий: в ИТМО создали платформу для поиска новых лекарств
Новости
Парк промышленных роботов в России вырос на 62% за один год
Новости
Геофизики объяснили загадочное ускорение сейсмических волн в недрах Земли
Наука
Семь российских вузов разделят 4,7 млрд рублей на исследования в области ИИ
Иннополис
Найден способ изучать квантовые состояния, которые десятилетиями не получалось поймать
Наука
Каталог кейсов применения квантовых технологий представили в России
Новости
Ozempic и мужское здоровье: как препарат влияет на либидо и восприятие размера пениса
Наука
Землю 2.0 нашли рядом со звездой, похожей на Солнце
Космос
Рыбу «Судного дня» случайно нашли в на пляже: почему ее опасаются
Наука