Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

После того, как исследователи из Facebook обнаружили, что их ИИ-боты создали новый язык для более эффективного общения, они решили настроить ботов, чтобы они использовали английский. Это ставит важный вопрос о том, следует ли разрешать ИИ генерировать «новые языки» для повышения эффективности, пишет Futurism.

Разрабатывая чат-боты для ведения переговоров, исследователи из Лаборатории искусственного интеллекта Facebook (FAIR) еще в июне заметили, что они не только научились лгать, но и спонтанно разработали собственный нечеловеческий язык. Система кодовых слов была разработана для максимального повышения эффективности их общения.

За разговор на английском языке боты не получали вознаграждение, и у них не было оснований придерживаться его, поскольку это не способствовало их конечной цели стать более эффективными переговорщиками. Наоборот, боты имели множество стимулов, чтобы отклоняться от языка, так же, как сообщества людей с опытом создают сокращенные формы для более быстрого или эффективного обсуждения сложных идей.

По словам исследователей, они могли расшифровать новый язык без особых усилий, потому что он все еще был основан на английском. Однако теперь ученые не могли быть уверены, что их переводы на 100% правильны. «Важно помнить, что в мире не существует билингвов, одинаково владеющих человеческими и ИИ-языками», — говорит Дхрув Батра из FAIR. Этот новый язык также не служил цели исследования. «Наш интерес заключался в ботах, которые могли бы разговаривать с людьми», — говорит научный сотрудник FAIR Майк Льюис.

В конце концов, исследователи решили настроить ботов так, чтобы избежать ухода от английского языка.

Такое спонтанное развитие независимого языка напоминает о том, насколько мало мы все еще знаем об ИИ. Он, несомненно, мог бы помочь нам. Однако опасности, которые кроются в ИИ, заставляют многих экспертов громче говорить о них. Должны ли мы позволить ИИ разрабатывать диалекты, специфичные для конкретных задач с целью повышения производительности, зная, что мы не можем по-настоящему понять, о чем они говорят?

Исследователь ИИ Марк Ридл из Технологического института Джорджии считает, что ИИ, обученные оптимизации с помощью вознаграждений, в конечном итоге могут увидеть в людях угрозу их планам оптимизации. И в конечном итоге, избавиться от человека так, как они избавились от человеческого языка. Опасность, как говорит Илон Маск и Стивен Хокинг, заключается в том, что когда мы заметим настоящие риски со стороны ИИ, будет уже слишком поздно.

Процессы, проходящие внутри искусственного интеллекта, часто не поддаются описанию человеческим языком. По мнению японского нейробиолога Риото Канаи и его коллег, вместо того чтобы учить машины нашему языку, лучше дать им возможности создать свой.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 2 раза в день

перейдите по одной из ссылок и нажмите кнопку Join
Новая технология позволит редактировать гены клеток мозга
Исследования мозга
МТИ начал выдавать дипломы на блокчейне
Блокчейн-технологии
К концу года мощность солнечной энергетики Китая достигнет 50 ГВт
Тренды
Тим Кук лично ответил поклоннику Mac mini о будущем модели
ИТ-компании
Тренды
Amazon станет первой в мире компанией, которая стоит $1 трлн
Молекулы-самоубийцы могут защитить нас от рака
Борьба с раком
Blue Origin впервые провела огневые испытания своего двигателя BE-4
Частный космос
Уникальная бетонная крыша превращает жилой дом в электростанцию
Солнечная энергетика
Toyota Sora — новый водородный автобус для гостей Олимпийских игр
Транспорт будущего
Ученые создали двумерный «идеальный» транзистор
Новая электроника
Huawei добилась 20 Гбит/с в испытаниях 5G Dual Connectivity
Переход на 5G
Сингапурские ученые делают фотоэлементы из меди, цинка и олова
Энергия солнца
Транспорт будущего
Маск купил еще одну буровую машину и роет тоннель в Вашингтон
В Швеции выбрали место для строительства конкурента Gigafactory
Тренды
Россия получила рекордное количество медалей на World Skills 2017
Кейсы
Эндрю Ын возглавил стартап, разрабатывающий чатбота-психотерапевта
Кейсы
Блокчейн может трансформировать сферу туризма
Блокчейн-технологии
Водоросли помогли улучшить органические солнечные элементы
Солнечная энергия
Veo Robotics переложит тяжелый труд на плечи роботов
Робототехника
Соцпособия будущего
Блокчейн и криптовалюты совершат революцию в БОД
Flare — камера слежения с ИИ для умного дома
Умный дом
Разработана компьютерная память молекулярного уровня
Компьютерная память
5 открытий в сфере гравитационных волн, которые изменили астрофизику
Астрофизика
4 фактора, которые преобразят IoT
Интернет вещей
Синтезирован препарат, эффективно подавляющий ВИЧ
Лечение ВИЧ
«Вертолеты России» покажут электрический конвертоплан в 2019 году
Городская авиация
Идеи
Toyota создала водородный минивэн с дальностью хода 1000 км
Число криптовалютных хедж-фондов перевалило за сотню
Тренды
Тренды
В США стартует первый государственный эксперимент с выплатой БОД
В Китае открыли роботизированную промзону за $300 млн
Промышленная робототехника
В Канаде начали тестировать робомобили на дорогах общего пользования
Беспилотные автомобили
В Шотландии запущена первая плавучая ветровая ферма
Ветровая энергетика
Робот-садовник поливает и защищает растения от вредителей
Робототехника
Виталик Бутерин: «Центробанкам еще далеко до введения криптовалют»
Криптовалюты
Электромопед от Honda станет домашней системой хранения энергии
Электромотоциклы
Eviation обещает запустить авиационный Uber в 2019 году
Электроавиация
Роберт Уразов: «На смену дипломам приходят паспорта навыков»
Тренды
Биосфера
Ученые не могут объяснить резкое сокращение числа летающих насекомых
Китай выпустит 1 млн электромобилей в 2018 году
Электромобили
ИИ от DeepMind стал гроссмейстером по игре го за 3 дня
Искусственный интеллект
Центробанк Бразилии признал биткойн финансовой пирамидой
Криптовалюты
«Мозги» беспилотной системы Apple размещаются на крыше автомобиля
Беспилотный транспорт
Новое открытие приближает появление квантовых компьютеров
Нанотехнологии
В 2018 году Baidu запустит в Китае беспилотный автобус
Беспилотный транспорт
Garmin Speak — умный автонавигатор с Alexa
Умный автомобиль
Daimler показала, на что способны ее беспилотные грузовики
Беспилотный транспорт
Рейтинг лучших
11 главных инженерных инноваций 2017 года
Электробайки Zero станут в 2018 году быстрее, мощнее, выносливее
Транспорт будущего
Samsung хочет подключить всю бытовую технику к IoT
Интернет вещей