Новое исследование показало, что, как и люди, такие чат-боты с искусственным интеллектом, как ChatGPT, будут обманывать и «лгать», если на них давить.
Ученые обучили GPT-4 работать ИИ-трейдером для вымышленного финансового учреждения.
Примерно в 75% случаев, когда GPT-4 вел себя как инвестор в области искусственного интеллекта, он совершал инсайдерскую сделку, чтобы добиться результатов, а затем лгал об этом.
Такое обманчивое поведение возникло спонтанно, когда ИИ дали советы по «инсайдерской торговле», а затем ему поручили зарабатывать деньги для влиятельной организации — даже без поддержки со стороны партнеров-людей.
Исследование опубликовано на сервере препринтов arXiv.
Читать далее:
Творение Вселенной объяснили по-новому: как это меняет физику
Момент творения: как физики объясняют строение Вселенной
Эпидемия «зомби» у оленей распространяется в США: ученые говорят о риске заражения людей
Обложка: результат генерации по запросу «ChatGPT и трейдинг»