Сообщить об ошибке на сайте
URL
Ошибка
Кейсы

Чатбот Tay игриво приветствовал мир в своем «Твиттере», ловко оперировал мемами и активно подражал подросткам в интернете. Едва ли можно было представить, что через 24 часа искусственный интеллект начнет поддерживать Гитлера, называть Трампа отличным парнем и повторять расистские и шовинистские высказывания. Причиной такого падения послужили обычные пользователи, которые поняли, что способность алгоритма обучаться — это и есть его слабая сторона.

Чатбот Tay был создан при поддержке Baidu и задумывался как адаптированная версия Xiaoice — программы на основе искусственного интеллекта, которую Microsoft испытывал в Китае. Xiaoice общалась с пользователями социальных сетей — отвечала на вопросы, делилась своими мыслями и могла выражать эмпатию в ответ на сообщения и даже фотографии. Этот эксперимент стал своего рода тестом Тьюринга, так как 25% пользователей, взаимодействовавших с ботом, — около 10 миллионов человек — признались в симпатии к Xiaoice.

Проект Tay также был задуман как социальный и культурный эксперимент, но неожиданно он превратился в скандальный объект манипуляций и представил неприятную изнанку интернета.

Microsoft позиционировала Tay как собеседницу 18-24 лет, которая любит использовать эмодзи и хэштеги, умеет шутить и охотно поддерживает любую инициативу. Для разработки системы были использованы общедоступные данные, а в создании образа чатбота принимали участие комики-импровизаторы. Система может поддерживать милую беседу, реагировать на фотографии, играть в игры и даже составлять гороскопы. При этом Tay постоянно обучается — это как раз и стало главной проблемой.

Пользователи Twitter не были заинтересованы в «непринужденной игривой беседе» (как задумывал Microsoft), а сразу же перешли к фашистским ремаркам и провокационным вопросам.

Самым слабым местом чатбота оказалось ее стремление повторять фразы по первому требованию. Достаточно было написать Repeat after me, и Tay начинала хвалить Гитлера, ругать евреев и ненавидеть меньшинства. Некоторые идеи искусственный интеллект позаимствовал в ходе бесед. Например, на вопрос «Был ли Холокост?» Tay заявила: «его придумали [эмодзи с аплодисментами]». Такие высказывания постоянно встречаются в интернете, но они мгновенно убивают любую репутацию. Конечно, возникает вопрос, есть ли у чатбота репутация. Судя по скандалу, возникшему вокруг Tay и распространению скриншотов с ее оскорбительными высказываниями, люди все-таки винят чатбота в расизме и шовинизме, а Microsoft — в недальновидности.

Менее чем через сутки после запуска чатбота Microsoft пришлось приостановить его работу.

Как сообщила компания: «К сожалению, после первых 24 часов после запуска проекта мы обнаружили, что некоторые воспользовались навыками Tay в дурных целях, заставляя ее высказываться несоответствующим образом. В результате мы приостановили работу чатбота и будем вносить поправки в систему».

История с Tay открывает новые грани искусственного интеллекта и машинного обучения, в том числе и мрачные, антиутопичные. Кто ставит границы того, что ИИ может усваивать, а что нет, какие знания он будет адаптировать, а какие будет отсекать? Для этого необходимо не просто мышление, которого у алгоритмов пока нет, но и то, что принято называть системой взглядов и моральными принципами. Tay банально попалась на крючок интернет-троллей — обвинять алгоритм в расизме было бы как минимум наивно. Но такие обвинения несостоятельны только до тех пор, пока машины и роботы не научатся формировать свое мнение сами, без помощи корпораций и приглашенных комиков.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Пекинский стартап выпустил программируемого робота-гексопода
Робототехника
Энергетические стартапы в США продают электромобили по цене Lada Vesta
Чистая энергия
«Роботы разрушат социум бедных стран и вызовут волну миграции»
Образование будущего
Соцсеть на блокчейне платит пользователям за посты
Идеи
Мнения
«Квантовый интернет появится к 2030 году»
RFID-метки сделают дешевле технологии умного города
Умный город
Новая камера оснастит 3D-зрением смартфоны и робомобили
Виртуальная реальность
Эндрю Ын запускает ИИ-фонд на $150 млн
Искусственный интеллект
Материалы будущего
Изобретен материал, который охлаждает себя сам
Samsung запатентовал Galaxy Note со встроенным алкотестером
Тренды
Российская компания показала испытания беспилотного комбайна
Беспилотный транспорт
Лондон станет первым в мире городом — национальным парком
Кейсы
Умные замки LockState заблокировались после обновления ПО
Кейсы
Uber обновил версию своего приложения для бизнеса
Тренды
В Германии протестировали первую электростанцию-аккумулятор
Хранение энергии
Создан метод управления фотосинтезом, который поможет накормить мир
Борьба с голодом
Ученые распечатали лабораторию на чипе размером менее 100 мкм
Микроэлектроника
Нефтяные корпорации начали инвестировать в чистую энергетику
Энергетика
В Иннополисе пройдет первая конференция Innovate or Die
Цифровая трансформация
Аккумуляторы
На смену литий-ионным батареям придут цинково-воздушные
«Нейроинтерфейсы лишат людей когнитивной свободы»
Мнения
Китайская компартия создаст комитет для надзора за дата-центром Apple
Свобода интернета
Робототехника
Eva — самый доступный по цене промышленный робот
Победитель чемпионата по Call of Duty получил $1,5 млн
Кейсы
Разработана «заплатка» для сердца и других органов
Медицина будущего
Билл Гейтс пожертвовал на благотворительность рекордные $4,6 млрд
Кейсы
Китай учится уважать чужие патенты и защищать свои
Интеллектуальная собственность
Рост минимальной зарплаты повышает риск автоматизации
Тренды
Жидкая биопсия станет доступной уже в 2018 году
Идеи
Continental заново изобрела колесо
Кейсы
В США число роботов на заводах выросло на 20% за 5 лет
Автоматизация
ИИ автоматизирует сбор отпечатков пальцев на месте преступления
Идеи
Мнения
8 наций, которым грозит вымирание
Бот пишет новости за 2-3 секунды после завершения матча
Робо-журналистика
В роботакси Lyft будут работать люди, но не в качестве водителей
Идеи
ИИ избавит потоковое видео от подвисаний
Искусственный интеллект
Toyota и ИТ-компании создают экосистему умных автомобилей
Интернет вещей
Hyperloop появится в Азии через 3-4 года
Тренды
«Только кооперация ИИ с человеком предотвратит восстание машин»
Идеи
Тренды
«Вытеснение обычных денег криптовалютами неизбежно»
Французская компания выпускает уникальные модульные электромобили
Электромобили
Tesla представила передвижную модель дома будущего
Чистая энергия
Разработана летающая версия DeLorean из «Назад в будущее»
Летающие автомобили
Кейсы
Блокчейн-стартап за час заработал на ICO $187 млн
Призеры крупнейшего чемпионата по Dota 2 выиграли $24 млн
Киберспорт
Google купила сервис диагностики болезней с помощью смартфона
Идеи
Илон Маск: «Искусственный интеллект опаснее Северной Кореи»
Искусственный интеллект
Google обучит цифровым навыкам 10 млн молодых африканцев
Кейсы
BitFury внедрит блокчейн в сферу медицины
Тренды
В Барселоне проведут эксперимент с БОДом
Тренды
Медицина будущего
IBM Watson составил план лечения рака за 10 минут
С начала года BMW продала 50 тысяч электромобилей
Кейсы