Чат-бот Google посоветовал пользователю умереть во время обычного диалога

Странную рекомендацию дал ИИ Gemini, ссылку на разговор опубликовал один из пользователей Reddit.

Серьезный инцидент произошел с искусственным интеллектом Google Gemini — во время обычного диалога система неожиданно выдала агрессивное сообщение, призывающее пользователя к смерти. Пример опасного разговора опубликовал на форуме Reddit пользователь с ником dhersie. Он также приложил ссылку на запись разговора с ИИ.

По словам пользователя его младший брат использовал нейросеть, чтобы выполнить домашнее задание по теме геронтологии. После примерно 20 стандартных запросов о проблемах пожилых людей и их благополучии без какой-либо видимой причины Gemini сгенерировал агрессивное сообщение, в котором назвала пользователя «пустой тратой времени и ресурсов» и «обузой для общества». Ответ нейросети кончается призывом к смерти.

Переписка пользователя с Gemini

Судя по опубликованной переписке, агрессивное поведение системы никак не связано с контекстом разговора — пользователь обсуждал социальные вопросы, связанные с пожилыми людьми. О случившемся немедленно r/artificial сообщил в Google.

В комментарии к публикации служба поддержки Google сообщила, что большие языковые модели иногда могут отвечать бессмысленными ответами, и это пример такой ситуации. «Этот ответ нарушил наши политики, и мы приняли меры для предотвращения подобных результатов», — отмечается в комментарии.

Хотя ранее уже сообщалось о случаях некорректного поведения ИИ, включая этически спорные ответы и дезинформацию, текущий инцидент выделяется своей явной агрессивностью. Ситуация поднимает важные вопросы о безопасности использования нейросетей и необходимости более строгого контроля над их поведением.


Читать далее:

Найден «межзвездый туннель» от Солнечной системы к соседней звезде

Археологи-любители из Польши нашли военный клад, спрятанный в XVII веке

Физики создали новую теорию «невозможной» квантовой гравитации

Иллюстрация на обложке сгенерирована Freepik AI

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Альтернативу Apple Pay для iPhone тестируют в России: как она работает
Новости
Сверхзвуковой «Конкорд» возвращается: почему в США поменяли мнение о самолете
Новости
Mars Orbiter теперь «стоит на голове»: зачем это нужно НАСА
Космос
В Москве дожди, а в пустыне — выпал снег: посмотрите на редкое явление из космоса
Космос
Обнаружено самое далекое мини-гало: радиосигнал прошел 10 млрд световых лет
Космос
Товары для взрослых начнут продавать онлайн по биометрии
Новости
Две трети абитуриентов выбирают ИИ как приоритетное ИТ-направление
Наука
Тираннозавр был не таким, как в фильмах, рассказывает палеонтолог
Наука
Google запустил ИИ-приложение для виртуальной примерки одежды
Новости
В России создали ИИ для защиты памятников от разрушения при строительстве
Новости
Галактику Андромеды показали такой, какой ее еще не видели
Космос
Минспорт требует от киберспортсменов бег и отжимания: новый стандарт вызвал споры
Новости
AAEON выпустила самый компактный одноплатный компьютер с чипами Intel Core 13-го поколения
Наука
Этот паразит годами незаметно поедает мозг: названы главные признаки
Наука
Посмотрите на редкое фото Сатурна: это затмение не увидеть еще 15 лет
Космос
Старые смартфоны превратили в подводные центры обработки данных
Новости
Телескоп в Антарктиде зафиксировал первый свет Вселенной с рекордной точностью
Космос
Орангутаны тоже спят сиесту: днем приматы компенсируют ночной недосып
Наука
Искусственный интеллект науился писать код для компьютерных чипов
Новости
Кофеин активирует механизм, который замедляет старение в клетках
Наука