Сообщить об ошибке на сайте
URL
Ошибка
Идеи

Компания представила алгоритм для создания подписей к изображениям CaptionBot. Система на основе машинного обучения и естественной речи хорошо распознает образы, но некоторые картинки она принципиально отказывается описывать — например, фотографии Адольфа Гитлера и нацистскую символику.

В основе CaptionBot лежит система Microsoft Cognitive Services, которая обеспечивает работу мини-сайтов компании, где можно по фото узнать свой возраст, а также сравнить себя со знаменитостью и узнать породу собаки.

CaptionBot использует машинное обучение и постоянно совершенствует свои знания о мире во время практики. Поэтому все загружаемые в программу изображения сохраняются. Также он базируется на алгоритме естественной речи и старается быть непосредственным — например, добавляет в конце описания эмодзи.

В большинстве случаев он справляется с задачей угадывания хорошо, но иногда довольно нелепо ошибается или предлагает совершенно невообразимые варианты.

Microsoft выпустила CaptionBot спустя несколько недель после своего скандального социального эксперимента с чатботом Tay. Twitter-бот должен был поддерживать милую беседу на актуальные темы и обучаться на основе диалогов. В итоге меньше, чем за сутки, Tay стала соглашаться с нацистскими высказываниями и другими экстремистскими идеями — этому ее научили пользователи. Проект был приостановлен, а Tay была отключена.

Неудивительно, что CaptionBot намеренно отказывается описывать изображения с нацистской символикой, Гитлером и Усамой бен Ладеном. Алгоритм сообщает: «Я действительно не могу описать эту картинку». Хотя, как отмечает CNN Money, алгоритм верно угадывает Джозефа Менгеле, Йозефа Геббельса и Мао Цзедуна.

Компания признает, что добавила функции, которые контролируют алгоритм распознавания нового бота. Однако теперь Microsoft обвиняют в цензуре, что в общем-то вполне справедливо. Умалчивание никогда не было лучшей тактикой, тем более для систем распознавания образов. CaptionBot мог бы не игнорировать личностей с плохой репутацией, а давать какой-то комментарий к их фактическому описанию.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

В Алжире на время экзаменов на 11 часов отключат интернет
Кейсы
В России начали разработку автономного подводного робота
Кейсы
C 2019 года открыть автомобиль можно будет через NFC-чип в смартфоне
Тренды
Медики начнут печатать датчики для диагностики болезней в виде медведей Haribo
Медицина
Ричард Вдовьяк, Philips: «В будущем диагностировать заболевания будут не только врачи, но и сами пациенты»
Тренды
Частный космос
Россия провела первое испытание лазерного зажигания для кислородно-водородного ракетного двигателя
«Яндекс» провел первое тестирование своего беспилотного автомобиля. Он сам доехал из Москвы в Казань
Беспилотные автомобили
Роcкосмос закрывает проект «Протон»
Частный космос
В аэропорту Амстердама появился первый европейский криптовалютный банкомат
Криптовалюта
Шедевры за биткоины: Как криптовалюта меняет рынок искусства
Блокчейн
Почему «московий» и «оганесон» устроили раскол между физиками и химиками?
Кейсы
Тренды
Сэр Харшад Бадехиа — о бронежилетах будущего, русских математиках и металлургии
«Надежнее золота»: блокчейн в цифрах
Блокчейн
Бас Лансдорп, Mars One: «Моя жена отдала бы все, чтобы не лететь на Марс»
Полет на Марс
Как big data, блокчейн и 3D-печать сделали пищу полезнее
Мнения
Томас Циммерман, IBM, — о том, как остановить конец света, спасая планктон
Тренды
Без Siri, Алисы и «Окей, Google»: как и зачем нас подслушивают собственные телефоны
Тренды
Шрада Агарвал, Outcome Health: «Когда человек знает о своей болезни, от этого выигрывает и он, и фарма»
Мнения
Тренды
«Дорогая, я ухожу от тебя к роботу!»: заменят ли секс-андроиды реальные отношения?
7 правил для начинающих и разумных блокчейн-инвесторов
ICO
Четвертая революция: как интернет вещей изменит промышленность и нефтедобычу
Тренды
Не витайте в «облаках»: как провайдеры обманывают доверчивых клиентов
Мнения
Тренды
Когда мы начнем летать на автомобилях в городе?
Как в Россию проникают технологии: интернет-рестораны, маникюр на дому и «умное» страхование
Кейсы
Гендиректор Uber Дара Хосровшахи: «Автомобили должны ездить в трех измерениях»
Мнения
Олег Бабкин: «Системных администраторов никто не обучает, обучают только разработчиков»
Мнения
«Чтобы создать новое лекарство, нужно 10–12 лет и миллиард долларов»
Мнения
Сооснователь «Евросети» Тимур Артемьев: «Мы будем летать из Лондона в Сидней через космос. Так ближе»
Тренды
Новый стандарт рекламного рынка: что нужно знать о programmatic, чтобы рекламироваться эффективно
Тренды
Иван Горшунов, Etcetera, — о мобильных приложениях, стартапах и «внутренней девятиэтажке», которая мешает заглянуть за горизонт
Мнения
Билетный IT: как построить технологическую платформу вокруг билетного бизнеса
Кейсы
Cognitive Technologies: как российское бездорожье поможет искусственному интеллекту водить машины лучше, чем люди
Кейсы
Кейсы
10 предпринимателей — о том, как им помогают новые технологии в жизни и бизнесе
Don’t open the doors: как сделать игру из пластилина в одиночку (и привлечь инвестора на следующий проект)
Кейсы
Софт, бот, нейросеть: айтишники объясняют, почему не боятся автоматизации, роботизации и ИИ
Кейсы
Специалист по лучевой диагностике Сергей Морозов: искусственный интеллект возьмет на себя 30% функций врача и до 60% функций лаборантов
Мнения
Системный архитектор Алексей Усов — о Red Hat, международных стандартах, Linux и «Платоне»
Мнения
Microsoft впервые за три года обогнала Google по капитализации. Теперь компания — в тройке самых дорогих
Тренды
Массачусетский институт показал неопубликованное ранее видео из выступления Стива Джобса
Тренды
Сельское хозяйство
Российская компания представила систему, которая превращает любой трактор и комбайн в беспилотник
Антон Трантин, Pulsar VC: почему вашему стартапу не нужен блокчейн
Блокчейн
Одна распознает, другая проверяет, третья следит, чтобы никто не мухлевал: как нейронные сети работают над изображениями и видео
Тренды
«Ну как бы э-э-э»: почему Google Duplex — не прорыв
Тренды
Ростуризм предложил создать аналог Booking.com в России
Мнения
В Бурятии прошло новое тестирование почтовых дронов. На этот раз беспилотник не разбился
Тренды
Создатели Pokemon Go выпустят новую игру в 2018 году
Кейсы
Роман Аранин, Observer: «Мы не хотим делать инвалидные коляски уровня «Жигулей»
Мнения
Кейсы
Большинство популярных витаминов оказались бесполезными
Virgin Galactic провела успешное испытание космического корабля для туристов
Частный космос