Технологии 15 июня 2017

Facebook разработала бота, который умеет лгать ради выгоды

Далее

Исследователи Facebook, занимающиеся ИИ-разработками, создали бота, который может вести переговоры и лгать, ради получения выгоды, пишет Engadget. Причем, научился он всему этому самостоятельно.

Чатботы уже могут принимать заказы на пиццу, проводить платежи и даже быть ярыми расистами. Но толку от них было немного, пока Facebook не заявила, что создала бота, который умеет стратегически «мыслить», продумывать план беседы и вести переговоры.

Заставить компьютер общаться с людьми так, чтобы его было не отличить от человека чрезвычайно сложно. В этом, наверное, и состоит главная сложность искусственного интеллекта — повторить поведение человека. Приходится загружать в него огромные массивы данных, но после этого бот часто «прилипает» к записанной в него программе и не умеет импровизировать.

Однако исследователям из FAIR (подразделение Facebook по работе над ИИ), кажется, удалось научить бота вести переговоры. Для этого инженеры сначала провели работу с обычными людьми и попросили их оценить предметы (книги, мячи, шапки и прочее) по степени ценности. А после заставили справедливо поделить их между собой. После чего ценности и алгоритм беседы был записан и перенесен в программу бота.

Билл Гейтс назвал три самых перспективных сферы для старта карьеры

Но чтобы создать иллюзию человеческого общения, исследователи научили бота технике «развертывания диалога», благодаря которой он смог сконструировать потенциальную беседу от начала до конца, а потом активно добиваться поставленных заранее целей. Подобная техника позволила избежать конфузов, раздражения и неинформативных язвительных замечаний. Со слов представителей Facebook, боты были протестированы на людях, и те не сразу поняли, что разговаривают с компьютером.

Главное открытие исследователей стало в том, что бот без помощи программистов научился импровизировать и придумывал новые фразы и предложения, которым его заранее не обучали. В частности, он даже стал прибегать к хитрости, ради достижения целей переговоров. Например, были моменты, когда бот искусственно проявлял интерес к какому-то предмету, который на самом деле его не интересовал, а потом притворялся, что идет на компромисс, обменивая его на то, что ему действительно было нужно. По словам представителей Facebook, «это поведение не было запрограммировано исследователями, и бот сам счет такой метод наилучшим для достижения своих целей».

«Мозг — многомерная структура, в которой вплоть до 11 измерений»

Выступая на конференции Facebook F8 в конце апреля, Марк Цукерберг и глава Messenger Дэвид Маркус объявили о том, что хотят превратить Messenger в «социальную гостиную». Другими словами, это будет место, где пользователи смогут общаться, заказывать еду и такси, делиться музыкой.