Facebook разработала бота, который умеет лгать ради выгоды

Чатботы уже могут принимать заказы на пиццу, проводить платежи и даже быть ярыми расистами. Но толку от них было немного, пока Facebook не заявила, что создала бота, который умеет стратегически «мыслить», продумывать план беседы и вести переговоры.

Заставить компьютер общаться с людьми так, чтобы его было не отличить от человека чрезвычайно сложно. В этом, наверное, и состоит главная сложность искусственного интеллекта — повторить поведение человека. Приходится загружать в него огромные массивы данных, но после этого бот часто «прилипает» к записанной в него программе и не умеет импровизировать.

Однако исследователям из FAIR (подразделение Facebook по работе над ИИ), кажется, удалось научить бота вести переговоры. Для этого инженеры сначала провели работу с обычными людьми и попросили их оценить предметы (книги, мячи, шапки и прочее) по степени ценности. А после заставили справедливо поделить их между собой. После чего ценности и алгоритм беседы был записан и перенесен в программу бота.

Но чтобы создать иллюзию человеческого общения, исследователи научили бота технике «развертывания диалога», благодаря которой он смог сконструировать потенциальную беседу от начала до конца, а потом активно добиваться поставленных заранее целей. Подобная техника позволила избежать конфузов, раздражения и неинформативных язвительных замечаний. Со слов представителей Facebook, боты были протестированы на людях, и те не сразу поняли, что разговаривают с компьютером.

Главное открытие исследователей стало в том, что бот без помощи программистов научился импровизировать и придумывал новые фразы и предложения, которым его заранее не обучали. В частности, он даже стал прибегать к хитрости, ради достижения целей переговоров. Например, были моменты, когда бот искусственно проявлял интерес к какому-то предмету, который на самом деле его не интересовал, а потом притворялся, что идет на компромисс, обменивая его на то, что ему действительно было нужно. По словам представителей Facebook, «это поведение не было запрограммировано исследователями, и бот сам счет такой метод наилучшим для достижения своих целей».

Выступая на конференции Facebook F8 в конце апреля, Марк Цукерберг и глава Messenger Дэвид Маркус объявили о том, что хотят превратить Messenger в «социальную гостиную». Другими словами, это будет место, где пользователи смогут общаться, заказывать еду и такси, делиться музыкой.