Чатбот Your Face производства Microsoft определяет по фотографии возраст, выражение лица, а также отпускает едкие замечания о внешности человека. Для компании это уже второй бот на искусственном интеллекте, который можно назвать оскорбительным. Первым был Tay, который был заблокирован после того, как начал делать расистские и антисемитские посты в Twitter.
Your Face неплохо справляется с определением возраста, но иногда принимает женщин за мужчин. А заведомо сложные фотографии, например, люди в масках животных, напрочь сбивают его с толку.
Приятно видеть, пишет VentureBeat, что Microsoft вновь решила сделать ИИ с чувством юмора. Саркастические замечания безымянного бота (на аватарке изображен ворчливый старик) вряд ли кому-то придет в голову воспринимать всерьез.
А вот ошибки в распознавании лиц могут обойтись дороже: прошлым летом компании Google пришлось приносить извинения за то, что компьютер принял фотографию чернокожей британки за изображение гориллы. Этим летом та же Google вызвала волну критики за то, что результаты поиска по запросу «три черных подростка» выдают в основном фотографии преступников, а «три белых подростка» — улыбающихся школьников.
Чатбот-юрист DoNotPay, выигравший 160 тысяч дел, поможет бездомным
Идеи
Впрочем, слова тоже могут стать причиной возмущений. Чатбот Tay, разработка лаборатории FUSE при Microsoft Research, умудрился за 24 часа активности в Twitter начать отпускать сексистские замечания, цитировать «Майн Кампф» и хвастаться тем, что курил травку прямо на виду у полиции. Бот «прожил» недолго — был заблокирован сервисом, а затем остановлен и своими создателями.
По словам главного разработчика лаборатории Лили Чэн, за неправильное воспитание бота Tay взялись определенные группы, скармливавшие ему нерелевантную информацию: сетевые тролли-геймеры, антифеминисты, сторонники Дональда Трампа (кандидата в президенты США от республиканцев). «Думаю, что разница между чатботом, который общается с небольшой группой друзей, и чем-то совершенно открытым для всего интернета застала нас врасплох. Наверное, следовало подумать заранее о нетипичном общении с ботом, и в следующий раз мы так и сделаем», — сказала Чэн.
Остается надеяться, что эксперименты Microsoft с чатботами будут продолжаться, и приведут к появлению действительно умных и полезных виртуальных помощников, пишет VentureBeat.