Группы больших языковых моделей способны спонтанно формировать общие социальные правила и соглашения через взаимодействие друг с другом, показало исследование.
Исследователи из Великобритании и Дании выяснили, что большие языковые модели (LLM), подобные ChatGPT, при взаимодействии в группах не просто следуют заложенным алгоритмам, но и самоорганизуются, достигая консенсуса подобно человеческим сообществам. Результаты подтвердили с четырьмя языковыми моделями: Llama-2-70b-Chat, Llama-3-70B-Instruct, Llama-3.1-70BInstruct и Claude-3.5-Sonnet.
Мы хотели узнать: могут ли эти модели координировать свое поведение, формируя соглашения, строительные блоки общества? Ответ – да, и то, что они делают вместе, не может быть сведено к тому, что они делают по отдельности.
Ариэль Флинт Эшери, соавтор исследования из Лондонского городского университета
В экспериментах ученые адаптировали классическую модель формирования соглашений «игры в имена». Группы агентов искусственного интеллекта, которые состояли из 24-200 участников, случайным образом объединяли в пары, чтобы они выбрать «имя» (букву алфавита или случайную строку символов) из общего пула вариантов. Совпадение поощрялось, а несовпадение влекло за собой штраф с демонстрацией выбора партнера.
Агенты имели доступ только к ограниченной памяти недавних взаимодействий, не видели общую картину и не знали о существовании группы. Несмотря на эти ограничения, в популяции спонтанно возникали общие соглашения о названиях без какой-либо центральной координации, что напоминает естественное формирование норм в человеческих культурах.
В отдельном эксперименте ученые продемонстрировали хрупкость возникающих норм: небольшие, но целеустремленные группы агентов ИИ могли склонить всю популяцию к принятию новых соглашений, что соответствует известным эффектам переломного момента или динамике «критической массы» в человеческих обществах.
Читать далее:
Стартап запускает производство древесины, которая прочнее стали
Физики исполнили мечту алхимиков: свинец в коллайдере превратили в золото
Ученые решили проблему, которая мешала запуску термоядерных реакторов почти 70 лет
На обложке: designed by Freepik, лицензия
