Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

После того, как исследователи из Facebook обнаружили, что их ИИ-боты создали новый язык для более эффективного общения, они решили настроить ботов, чтобы они использовали английский. Это ставит важный вопрос о том, следует ли разрешать ИИ генерировать «новые языки» для повышения эффективности, пишет Futurism.

Разрабатывая чат-боты для ведения переговоров, исследователи из Лаборатории искусственного интеллекта Facebook (FAIR) еще в июне заметили, что они не только научились лгать, но и спонтанно разработали собственный нечеловеческий язык. Система кодовых слов была разработана для максимального повышения эффективности их общения.

За разговор на английском языке боты не получали вознаграждение, и у них не было оснований придерживаться его, поскольку это не способствовало их конечной цели стать более эффективными переговорщиками. Наоборот, боты имели множество стимулов, чтобы отклоняться от языка, так же, как сообщества людей с опытом создают сокращенные формы для более быстрого или эффективного обсуждения сложных идей.

По словам исследователей, они могли расшифровать новый язык без особых усилий, потому что он все еще был основан на английском. Однако теперь ученые не могли быть уверены, что их переводы на 100% правильны. «Важно помнить, что в мире не существует билингвов, одинаково владеющих человеческими и ИИ-языками», — говорит Дхрув Батра из FAIR. Этот новый язык также не служил цели исследования. «Наш интерес заключался в ботах, которые могли бы разговаривать с людьми», — говорит научный сотрудник FAIR Майк Льюис.

В конце концов, исследователи решили настроить ботов так, чтобы избежать ухода от английского языка.

Такое спонтанное развитие независимого языка напоминает о том, насколько мало мы все еще знаем об ИИ. Он, несомненно, мог бы помочь нам. Однако опасности, которые кроются в ИИ, заставляют многих экспертов громче говорить о них. Должны ли мы позволить ИИ разрабатывать диалекты, специфичные для конкретных задач с целью повышения производительности, зная, что мы не можем по-настоящему понять, о чем они говорят?

Исследователь ИИ Марк Ридл из Технологического института Джорджии считает, что ИИ, обученные оптимизации с помощью вознаграждений, в конечном итоге могут увидеть в людях угрозу их планам оптимизации. И в конечном итоге, избавиться от человека так, как они избавились от человеческого языка. Опасность, как говорит Илон Маск и Стивен Хокинг, заключается в том, что когда мы заметим настоящие риски со стороны ИИ, будет уже слишком поздно.

Процессы, проходящие внутри искусственного интеллекта, часто не поддаются описанию человеческим языком. По мнению японского нейробиолога Риото Канаи и его коллег, вместо того чтобы учить машины нашему языку, лучше дать им возможности создать свой.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Китай превращает угольные карьеры в плавучие солнечные фермы
Чистая энергия
Правительство США определило, что такое ИИ
Идеи
«Не обязательно идти в вуз, чтобы стать профи»
Иннополис
Более 1 ГВт новых солнечных станций и другие рекорды Австралии в 2017
Энергия солнца
ИИ-специалисты получают на 35-50% больше работников других ИТ-сфер
Искусственный интеллект
Автоматизация
ИИ может испортить карьеру юристам и адвокатам
Китай разрабатывает супербактерию для очистки воды
Идеи
Разработан анализ крови, выявляющий 2 типа рака
Борьба с раком
Возняк и Серф конгрессменам: «Вы не понимаете, как работает Интернет»
Интернет для всех
Blue Origin осуществит первый коммерческий запуск в 2018 году
Кейсы
«У Amazon или Facebook в 2018 году появится свой банк»
Прогнозы
Литий-металлические батареи увеличат запас хода электрокара в 3 раза
Идеи
Электромобили
Германский автопром не сможет перейти на выпуск только электромобилей
Ford в 2021 году представит беспилотный гибрид
Кейсы
«Биткойн — это свидетельство недоверия к существующей системе»
Блокчейн
IBM выложила в сеть код для разработки ИИ-приложений
Искусственный интеллект
Квантовые технологии
Выполнено ключевое условие для создания квантового интернета
Напечатанные микроволокна помогут выращивать органы
Медицина будущего
Японский телеком-гигант GMO решил платить зарплату биткойнами
Криптовалюты
Венгерский разработчик беспилотных систем готов бросить вызов Waymo
Беспилотники
Indiegogo поможет проводить ICO
ICO
Всемирный банк прекратит инвестиции в нефть и газ после 2019 года
Тренды
Мнения
«Пример Китая показывает, что миру не нужна Кремниевая долина»
«Я был не прав, когда продал свой биткойн за $140»
Криптовалюты
Российские ученые предложили заменитель золота для оптоэлектроники
Электроника
Synaptics представила бескнопочный аналог Touch ID
Тренды
«Только лень и незнание английского мешают развиваться профессионалу»
Иннополис
В США будут сажать за управление дроном в состоянии опьянения
Дроны в законе
В мире строится 26 мегафабрик по производству аккумуляторов
Тренды
Новый биопринтер печатает клетки для пересадки больным диабетом
Биотехнологии
Павел Дуров заработал $35 млн на биткойнах
Криптовалюты
Монополии Tesla на рынке солнечной кровли приходит конец
Идеи
Google Home научилась синхронизировать устройства умного дома
Умный дом
Искусственный интеллект
Ученые заглянули в «сознание» нейросети
Crispr применят для лечения наследственых заболеваний
Идеи
Чили становится центром дешевой возобновляемой энергетики
Тренды
Британские спецслужбы оценят риски биткойна
Блокчейн
Китайцы научились обходить запрет на торговлю биткойнами
Блокчейн
ИИ выведет систему образования из кризиса
Тренды
Блокчейн
«Люди берут кредиты, чтобы купить биткойны»
Создана новая технология 3D-печати более прочной и пластичной стали
3D-технологии
Готовимся к ICO. Инструкция, часть 2
ICO
Немецкие ученые разработали стабильный квантовый вентиль из кремния
Квантовые компьютеры
В МТИ разработали прибор, который избавит пациентов от уколов
Медицина будущего
Доказана эффективность лечения рака генно-модифицированными клетками
Борьба с раком
2D-игры помогут выявить опасные наклонности алгоритмов
Идеи
Мнения
Бывший вице-президент Facebook: «Соцсети разобщают людей»
Новый бионический протез управляет каждым пальцем по отдельности
Медицина будущего
Microsoft выпустила язык квантового программирования Q#
Квантовые компьютеры