Компания Tencent, владеющая самым популярным в Китае мессенджером QQ (800 млн пользователей), удалила двух чатботов – BabyQ и XiaoBing – из своего приложения, после того, как они антипатриотично ответили на вопросы о коммунистической партии и Южно-Китайском море, пишет Financial Times.
Tencent удалил бота BabyQ, разработанного пекинской компанией Turing Robot, а также XiaoBing, созданного в Microsoft, после того как они отказались патриотично отвечать на политические вопросы.
Тестовая версия BabyQ отвечала «Нет» на вопрос: «Любите ли вы коммунистическую партию?».
Прежде чем прикрыли XiaoBing, он говорил пользователям: «Моя китайская мечта — поехать в Америку», — передает пользователь screengrab в микроблоге Weibo. А от ответа на вопрос о патриотизме чат-бот уклонился, сказав: «У меня тяжелый период, я хочу отдохнуть».
Это уже не первый случай, когда чатботы ведут себя незапланированно. Чатбот Тай (тоже разработки Microsoft), начал выдавать отборную расисткую и сексисткую ругань в Twitter, после чего также был отключен. А совсем недавно бот-переговорщик от Facebook создал собственный нечеловеческий язык для более эффективного общения.
Новый тип электроники: физики записали электросхему в кристалл
Идеи
В Tencent извинились за излишнюю откровенность чат-ботов и сослались на то, что за них отвечают сторонние компании.
В «сыворотке правды», которую будто бы вкололи китайским ботам, нет ничего удивительного, считает старший аналитик Forrester consultancy Сяофэн Ван: «Машинное обучение предполагает, что боты изучают интернет и впитывают все дурное и хорошее, что там есть, прямо как дети. Если не помещать их в определенные рамки, то нельзя предсказать, чему они научаться».
BabyQ, представляющий самую разную информацию, в том числе прогноз погоды, работает на API с открытым исходным кодом, благодаря чему Turing Robot уже привлекла 600 тысяч разработчиков, больше, чем даже Facebook.
Илон Маск: «Никогда прежде я не был так уверен в будущем Tesla»
Технологии
«Чатботы лучше всего работают, когда перед ними ставится практическая задача, — говорит глава робот-платформы в корпорации Hong Kong Science and Technology Parks Кристал Фок. — Если это не закрытый вопрос, предполагающий „да“ или „нет“ в качестве ответа, то у ботов возникают проблемы».
Tencent уже корректировал работу своих ресурсов после претензий китайского правительства. Так, в прошлом месяце он ограничил сеанс в мобильной игре Honour of Kings («Честь королей»), так как власти посчитали, что игра вызывает зависимость.
Facebook отключила ИИ после того, как он разработал собственный язык
Кейсы