Сообщить об ошибке на сайте
URL
Ошибка
Кейсы

Чатбот Tay игриво приветствовал мир в своем «Твиттере», ловко оперировал мемами и активно подражал подросткам в интернете. Едва ли можно было представить, что через 24 часа искусственный интеллект начнет поддерживать Гитлера, называть Трампа отличным парнем и повторять расистские и шовинистские высказывания. Причиной такого падения послужили обычные пользователи, которые поняли, что способность алгоритма обучаться — это и есть его слабая сторона.

Чатбот Tay был создан при поддержке Baidu и задумывался как адаптированная версия Xiaoice — программы на основе искусственного интеллекта, которую Microsoft испытывал в Китае. Xiaoice общалась с пользователями социальных сетей — отвечала на вопросы, делилась своими мыслями и могла выражать эмпатию в ответ на сообщения и даже фотографии. Этот эксперимент стал своего рода тестом Тьюринга, так как 25% пользователей, взаимодействовавших с ботом, — около 10 миллионов человек — признались в симпатии к Xiaoice.

Проект Tay также был задуман как социальный и культурный эксперимент, но неожиданно он превратился в скандальный объект манипуляций и представил неприятную изнанку интернета.

Microsoft позиционировала Tay как собеседницу 18-24 лет, которая любит использовать эмодзи и хэштеги, умеет шутить и охотно поддерживает любую инициативу. Для разработки системы были использованы общедоступные данные, а в создании образа чатбота принимали участие комики-импровизаторы. Система может поддерживать милую беседу, реагировать на фотографии, играть в игры и даже составлять гороскопы. При этом Tay постоянно обучается — это как раз и стало главной проблемой.

Пользователи Twitter не были заинтересованы в «непринужденной игривой беседе» (как задумывал Microsoft), а сразу же перешли к фашистским ремаркам и провокационным вопросам.

Самым слабым местом чатбота оказалось ее стремление повторять фразы по первому требованию. Достаточно было написать Repeat after me, и Tay начинала хвалить Гитлера, ругать евреев и ненавидеть меньшинства. Некоторые идеи искусственный интеллект позаимствовал в ходе бесед. Например, на вопрос «Был ли Холокост?» Tay заявила: «его придумали [эмодзи с аплодисментами]». Такие высказывания постоянно встречаются в интернете, но они мгновенно убивают любую репутацию. Конечно, возникает вопрос, есть ли у чатбота репутация. Судя по скандалу, возникшему вокруг Tay и распространению скриншотов с ее оскорбительными высказываниями, люди все-таки винят чатбота в расизме и шовинизме, а Microsoft — в недальновидности.

Менее чем через сутки после запуска чатбота Microsoft пришлось приостановить его работу.

Как сообщила компания: «К сожалению, после первых 24 часов после запуска проекта мы обнаружили, что некоторые воспользовались навыками Tay в дурных целях, заставляя ее высказываться несоответствующим образом. В результате мы приостановили работу чатбота и будем вносить поправки в систему».

История с Tay открывает новые грани искусственного интеллекта и машинного обучения, в том числе и мрачные, антиутопичные. Кто ставит границы того, что ИИ может усваивать, а что нет, какие знания он будет адаптировать, а какие будет отсекать? Для этого необходимо не просто мышление, которого у алгоритмов пока нет, но и то, что принято называть системой взглядов и моральными принципами. Tay банально попалась на крючок интернет-троллей — обвинять алгоритм в расизме было бы как минимум наивно. Но такие обвинения несостоятельны только до тех пор, пока машины и роботы не научатся формировать свое мнение сами, без помощи корпораций и приглашенных комиков.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Биометрия
Visa встроила в платежные карты сканер отпечатка пальца
Инвестиции в «чистую» энергетику в 2017 году росли благодаря Китаю
Тренды
Инженера Google и Uber Левандовски вновь обвинили в мошенничестве
Кейсы
Евросоюз запретит одноразовую пластиковую упаковку к 2030 году
Тренды
Немецкий дизайнер разработал складное колесо
Концепты
В МТИ втрое увеличили КПД термоэлектрических устройств
Чистая энергия
Приложение-контрацептив привело к росту числа абортов
Кейсы
Геном беглого раба воссоздали по ДНК его потомков
Генетика
GM признали лидером беспилотных технологий
Беспилотный транспорт
Треть жителей Китая и Индии хотели бы стать киборгами
Тренды
Умные стекла будут обогревать здания
Умный дом
Универсальная банковская карта запущена в Англии
Финтех
The Abyss проведет первый в мире Token Sale по модели Бутерина
ICO
Блокчейн
«В 2018 году курс биткойна достигнет $100 000»
РНК-терапия побеждает боль лучше традиционных лекарств
Медицина будущего
Идеи
КПД перовскитных солнечных модулей удалось повысить до 66%
Насилие в компьютерных играх не влияет на психику игроков
Видеоигры
ИИ изменит телевизоры и телевидение
Искусственный интеллект
Эндрю Ын помог создать ИИ, который выявляет смертельно больных
Медицина будущего
В Швейцарии разработали кирпичи с лучшей в мире теплоизоляцией
Новые материалы
Создана система машинного зрения на основе технологии 1960-х годов
Компьютерное зрение
Alibaba: «Мы никогда не выпустим криптовалюту»
Блокчейн
Кейсы
Google бесплатно подготовит 10 тысяч человек к работе в ИТ
Daimler и BMW начнут продавать автомобили по подписке
Идеи
Умные колонки заменяют пользователям радио, смартфоны и телевизоры
Умные колонки
Обучение иммунной системы поможет при химиотерапии
Медицина
Армения создаст свою Кремниевую долину с упором на блокчейн
Блокчейн
Слишком соленая пища может стать причиной деменции
Биосфера
Водородные велосипеды попадут на массовый рынок через год-два
Велосипеды
Катар стремится стать центром криптовалютного рынка и ICO
Блокчейн
Продажи трехколесного электрокара Solo стартуют в конце года
Городские электрокары
Томские физики разрабатывают левитационный 3D-принтер
3D-технологии
Илон Маск: «В Model 3 можно будет управлять голосом почти всем»
Электромобили
Компания GAC представила электрокроссовер с боковыми VR-стеклами
Электротранспорт
Мнения
Туманное будущее солнечной энергетики: три главных препятствия
Саудовская Аравия начинает переход на электротранспорт
Электротранспорт
Китай запретит централизованную торговлю биткойнами
Блокчейн
ИИ поможет предотвратить внезапную смерть в больницах США
Искусственный интеллект
В 2026 в США будет 2500 беспилотных летающих такси Mobi-One
Транспорт будущего
Умные вещи
Умные фары не слепят водителей и показывают голограммы
Открыт метод дистанционной иммунотерапии рака
Борьба с раком
Гены миног дадут человеку возможность восстанавливать спинной мозг
Регенеративная медицина
Высокие цены на хранение данных мешают развитию генной терапии
Генетика
Клинике Мэйо позволили «штамповать» стволовые клетки для экспериментов
Регенеративная медицина
Доказан факт манипулирования курсом биткойна в 2013 году
Блокчейн
Через два года возобновляемая энергия станет дешевле традиционной
Альтернативная энергетика
Исследования мозга
В мозге обнаружен механизм, отвечающий за творческое мышление
Автопроизводители уже инвестировали в электромобили более $90 млрд
Электромобили
Эксперты: «Идея БОДа совершит прорыв в 2018 году»
Мнения