Чатботы Microsoft продолжают оскорблять людей

Чатбот Your Face производства Microsoft определяет по фотографии возраст, выражение лица, а также отпускает едкие замечания о внешности человека. Для компании это уже второй бот на искусственном интеллекте, который можно назвать оскорбительным. Первым был Tay, который был заблокирован после того, как начал делать расистские и антисемитские посты в Twitter.

Your Face неплохо справляется с определением возраста, но иногда принимает женщин за мужчин. А заведомо сложные фотографии, например, люди в масках животных, напрочь сбивают его с толку.

Приятно видеть, пишет VentureBeat, что Microsoft вновь решила сделать ИИ с чувством юмора. Саркастические замечания безымянного бота (на аватарке изображен ворчливый старик) вряд ли кому-то придет в голову воспринимать всерьез.

А вот ошибки в распознавании лиц могут обойтись дороже: прошлым летом компании Google пришлось приносить извинения за то, что компьютер принял фотографию чернокожей британки за изображение гориллы. Этим летом та же Google вызвала волну критики за то, что результаты поиска по запросу «три черных подростка» выдают в основном фотографии преступников, а «три белых подростка» — улыбающихся школьников.

Чатбот-юрист DoNotPay, выигравший 160 тысяч дел, поможет бездомным

Впрочем, слова тоже могут стать причиной возмущений. Чатбот Tay, разработка лаборатории FUSE при Microsoft Research, умудрился за 24 часа активности в Twitter начать отпускать сексистские замечания, цитировать «Майн Кампф» и хвастаться тем, что курил травку прямо на виду у полиции. Бот «прожил» недолго — был заблокирован сервисом, а затем остановлен и своими создателями.

По словам главного разработчика лаборатории Лили Чэн, за неправильное воспитание бота Tay взялись определенные группы, скармливавшие ему нерелевантную информацию: сетевые тролли-геймеры, антифеминисты, сторонники Дональда Трампа (кандидата в президенты США от республиканцев). «Думаю, что разница между чатботом, который общается с небольшой группой друзей, и чем-то совершенно открытым для всего интернета застала нас врасплох. Наверное, следовало подумать заранее о нетипичном общении с ботом, и в следующий раз мы так и сделаем», — сказала Чэн.

Остается надеяться, что эксперименты Microsoft с чатботами будут продолжаться, и приведут к появлению действительно умных и полезных виртуальных помощников, пишет VentureBeat.

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Юпитер оказался не таким, как считали ученые: открытие опровергает гипотезу о гиганте
Космос
Физики придумали, как найти новые измерения в пространстве
Наука
Посмотрите на первое фото кометы C/2024 G3 в России: она прилетает раз в 160 000 лет
Космос
Ученые нашли необычные частицы: их поведение невозможно объяснить обычной физикой
Наука
Байден запретит поставки ИИ-чипов в Россию: что ответила NVIDIA
Новости
300 млрд киловатт-часов: Китай строит крупнейшую в мире гидроэлектростанцию
Новости
Парниковые газы предложили хранить в стенах домов для борьбы с изменением климата
Наука
Ученые разгадали тайну, как древние птерозавры поднялись в воздух
Наука
Эксперимент показал, что фотоны света могут вести себя как частицы темной материи
Наука
ИИ создал крупнейшую базу данных фотографий северного сияния
Наука
Молекулы РНК превратили в «фонарики», чтобы отслеживать их работу в клетке
Наука
Европейский зонд показал северный полюс Меркурия в рекордных деталях
Космос
Посмотрите, как изменится внешний вид людей через 30 лет  
Наука
Посмотрите на первые фото Tesla Model Y без камуфляжа  
Новости
«Тостер» для смартфона обновляет зарядку гаджета за секунды
Новости
Гаджет, который научился читать мысли человека, показали на CES 2025
Новости
Эта камера будет снимать на Луне: Nikon представила прототип на CES 2025  
Новости
Ярчайший гамма-всплеск в истории связали с теорией струн и темной материей  
Новости
Наука в фокусе: кто и зачем делает научно-популярные видеоблоги в России
Кейсы
Telegram раскрыл данные о 2000 пользователях в после ареста Дурова
Новости