Чатботы Microsoft продолжают оскорблять людей

Чатбот Your Face производства Microsoft определяет по фотографии возраст, выражение лица, а также отпускает едкие замечания о внешности человека. Для компании это уже второй бот на искусственном интеллекте, который можно назвать оскорбительным. Первым был Tay, который был заблокирован после того, как начал делать расистские и антисемитские посты в Twitter.

Your Face неплохо справляется с определением возраста, но иногда принимает женщин за мужчин. А заведомо сложные фотографии, например, люди в масках животных, напрочь сбивают его с толку.

Приятно видеть, пишет VentureBeat, что Microsoft вновь решила сделать ИИ с чувством юмора. Саркастические замечания безымянного бота (на аватарке изображен ворчливый старик) вряд ли кому-то придет в голову воспринимать всерьез.

А вот ошибки в распознавании лиц могут обойтись дороже: прошлым летом компании Google пришлось приносить извинения за то, что компьютер принял фотографию чернокожей британки за изображение гориллы. Этим летом та же Google вызвала волну критики за то, что результаты поиска по запросу «три черных подростка» выдают в основном фотографии преступников, а «три белых подростка» — улыбающихся школьников.

Чатбот-юрист DoNotPay, выигравший 160 тысяч дел, поможет бездомным

Впрочем, слова тоже могут стать причиной возмущений. Чатбот Tay, разработка лаборатории FUSE при Microsoft Research, умудрился за 24 часа активности в Twitter начать отпускать сексистские замечания, цитировать «Майн Кампф» и хвастаться тем, что курил травку прямо на виду у полиции. Бот «прожил» недолго — был заблокирован сервисом, а затем остановлен и своими создателями.

По словам главного разработчика лаборатории Лили Чэн, за неправильное воспитание бота Tay взялись определенные группы, скармливавшие ему нерелевантную информацию: сетевые тролли-геймеры, антифеминисты, сторонники Дональда Трампа (кандидата в президенты США от республиканцев). «Думаю, что разница между чатботом, который общается с небольшой группой друзей, и чем-то совершенно открытым для всего интернета застала нас врасплох. Наверное, следовало подумать заранее о нетипичном общении с ботом, и в следующий раз мы так и сделаем», — сказала Чэн.

Остается надеяться, что эксперименты Microsoft с чатботами будут продолжаться, и приведут к появлению действительно умных и полезных виртуальных помощников, пишет VentureBeat.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Процессорный модуль «Фишт» запустили в производство: заменит зарубежные аналоги  
Новости
НАСА сообщило о возможных следах древней жизни на Марсе  
Космос
Робот TRON 1 научился прыгать через барьеры и взбираться по лестницам  
Новости
Проект мощнейших в мире приливных турбин запустили во Франции
Новости
Суперкомпьютер раскрыл тайны «молекулярного ремонта» ДНК
Наука
В Китае разработали батарейку с радиоактивным углеродом, которая проработает до 100 лет
Наука
Ученые MIT разработали «простой способ» превратить клетки кожи в нейроны
Наука
Microsoft запускает ИИ Copilot для геймеров: он будет работать, как тренер
Новости
Частный лунный модуль сфотографировал солнечное затмение с Луны
Космос
Почему Вселенная несимметрична: физики приблизились к разгадке тайны
Новости
Посмотрите на обратную сторону спутника Марса: это второе фото в истории
Новости
Это приложение буквально заставляет трогать траву и блокирует соцсети
Новости
Посмотрите на место гибели лунного аппарата «Афина»
Новости
Apple призвала срочно обновить iPhone из-за критической уязвимости  
Новости
В РосНИИРОС опровергли планы ICANN закрыть домен .su  
Новости
Европейские охотники каменного века «путешествовали» по морю в Африку
Наука
Зонд «Гера» сделал снимки спутника Марса на пути к «пострадавшему в ДТП» астероиду
Космос
В испанской пещере нашли «фрагменты лица» древнейшего жителя Западной Европы
Наука
Стартап представил робота, который готовит как шеф-повар лучших ресторанов
Новости
В паровом реакторе впервые зажгли термоядерную плазму
Новости