Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

После того, как исследователи из Facebook обнаружили, что их ИИ-боты создали новый язык для более эффективного общения, они решили настроить ботов, чтобы они использовали английский. Это ставит важный вопрос о том, следует ли разрешать ИИ генерировать «новые языки» для повышения эффективности, пишет Futurism.

Разрабатывая чат-боты для ведения переговоров, исследователи из Лаборатории искусственного интеллекта Facebook (FAIR) еще в июне заметили, что они не только научились лгать, но и спонтанно разработали собственный нечеловеческий язык. Система кодовых слов была разработана для максимального повышения эффективности их общения.

За разговор на английском языке боты не получали вознаграждение, и у них не было оснований придерживаться его, поскольку это не способствовало их конечной цели стать более эффективными переговорщиками. Наоборот, боты имели множество стимулов, чтобы отклоняться от языка, так же, как сообщества людей с опытом создают сокращенные формы для более быстрого или эффективного обсуждения сложных идей.

По словам исследователей, они могли расшифровать новый язык без особых усилий, потому что он все еще был основан на английском. Однако теперь ученые не могли быть уверены, что их переводы на 100% правильны. «Важно помнить, что в мире не существует билингвов, одинаково владеющих человеческими и ИИ-языками», — говорит Дхрув Батра из FAIR. Этот новый язык также не служил цели исследования. «Наш интерес заключался в ботах, которые могли бы разговаривать с людьми», — говорит научный сотрудник FAIR Майк Льюис.

В конце концов, исследователи решили настроить ботов так, чтобы избежать ухода от английского языка.

Такое спонтанное развитие независимого языка напоминает о том, насколько мало мы все еще знаем об ИИ. Он, несомненно, мог бы помочь нам. Однако опасности, которые кроются в ИИ, заставляют многих экспертов громче говорить о них. Должны ли мы позволить ИИ разрабатывать диалекты, специфичные для конкретных задач с целью повышения производительности, зная, что мы не можем по-настоящему понять, о чем они говорят?

Исследователь ИИ Марк Ридл из Технологического института Джорджии считает, что ИИ, обученные оптимизации с помощью вознаграждений, в конечном итоге могут увидеть в людях угрозу их планам оптимизации. И в конечном итоге, избавиться от человека так, как они избавились от человеческого языка. Опасность, как говорит Илон Маск и Стивен Хокинг, заключается в том, что когда мы заметим настоящие риски со стороны ИИ, будет уже слишком поздно.

Процессы, проходящие внутри искусственного интеллекта, часто не поддаются описанию человеческим языком. По мнению японского нейробиолога Риото Канаи и его коллег, вместо того чтобы учить машины нашему языку, лучше дать им возможности создать свой.

Загрузка...
Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Как европейский регламент по защите персональных данных GDPR повлияет на нашу жизнь
Тренды
Как развивается рынок умных домов в России и почему мы еще не живем в них
Умный дом
Падение астероида привело к потеплению на Земле. Оно продолжалось более 100 тыс. лет
Тренды
Киберспортсмен Данил Решетников — об изнуряющих тренировках, культовых играх и будущем киберспорта
Тренды
Астрономы создали проект «Горизонт событий», чтобы получить новые снимки черной дыры Стрелец А*
Частный космос
Alexa
Alexa от Amazon самостоятельно записала домашний разговор и отправила его другому человеку
Офис в VR, тесты от всех болезней и селфи с эмоциями: Эксперты рассказали, чего ждать в будущем от технологий
Технологический рывок
X5 Retail Group и Иннополис разработают магазин без продавцов
Иннополис
Джейкоб Биамонте, Сколтех, — о том, что квантовые компьютеры могут уже сейчас
Мнения
Плутон может оказаться скоплением более 1 млрд маленьких комет
Тренды
В американских солдат встроят датчики, рассказывающие о состоянии их здоровья
Тренды
Ученые прогнозируют снижение питательности риса из-за изменения климата. Рис едят миллиарды людей ежедневно
Тренды
Facebook представил искусственный интеллект, который превратит любой трек в симфонию
Тренды
Кейсы
Дачные ворота блогера самостоятельно подписались на платные услуги МТС
Южная Корея постепенно заменит солдат роботами
Тренды
IBM создала карманный детектор поддельных товаров
Кейсы
Чек-лист: как выбрать надежный магазин софта
Тренды
SpaceX запустила спутники, которые будут изучать гравитационное поле Земли
Тренды
Марк Цукерберг рассказал европейским парламентариям о работе Facebook
Утечка личных данных пользователей Facebook
В России могут запретить Booking.com
Блокировка интернета
Тренды
Sony открыла предзаказ на «бесконечный блокнот» — планшет Digital Paper
Мнения
Пять книг, которые Билл Гейтс рекомендует прочитать этим летом
8 лет назад программист купил две пиццы за 10000 биткоинов. Сейчас они стоят 83 миллиона долларов
Кейсы
Великобритания откроет центр для внедрения искусственного интеллекта в военную сферу
Тренды
Ученые придумали лекарство, которое предотвратит потерю памяти у космических путешественников
Тренды
Siri получит совершенно новый голос
Тренды
Вспышки сверхновых миллионы лет назад подтолкнули эволюцию на Земле
Как развивалась Вселенная
Лекарства из принтера и испытания на роботах: как новые технологии изменили фарму
Тренды
Тренды
Илон Маск предсказал возможное банкротство Tesla из-за дешевых Model 3
Российские ученые предлагают назвать следующий открытый элемент Антарктидием
Тренды
Microsoft и Google снова нашли массовую уязвимость в процессорах Intel
Хакеры
НАСА создаст в космосе температуру, ниже самой холодной во Вселенной
Тренды
Контейнеры, гибриды и туман: 5 трендов в облачных технологиях
Тренды
Facebook в 2019 году начнет вводить проект беспроводного интернета по всему миру
Технологический рывок
Роботы построили самый маленький дом в мире — размером с кончик волоса
Тренды
Идеи
Ученые выяснили, почему при высокой температуре запускается иммунитет и происходит выздоровление
Инвестор Виталий Голомб — об искусственном мясе и том, почему не нужно получать патенты
Тренды
Первая плавучая атомная электростанция «Ломоносов» завершила свой первый выход в море
Тренды
Посмотрите, как выглядит обожаемый всеми инженерами робот София
Доброжелательные роботы
Искусственные интеллекты тоже не смогли решить, что звучит на записи — «Янни» или «Лорел»
Искусственный интеллект
Астрономы нашли еще одно подтверждение наличия девятой планеты в Солнечной системе
Кейсы
Томские ученые представили сенсоры на основе органических молекул
Тренды
The Boring Company Илона Маска доставит огнеметы первым покупателям уже в начале лета
Кейсы
Инженеры собрали тактильного робота — его кожа может покрываться мурашками
Доброжелательные роботы
Билет в электробус The Boring Company Илона Маска будет стоить всего $1
Тренды
Китайские ученые создали из картона наноматериал для очищения воды от тяжелых металлов
Экология
Тренды
Константин Носков возглавит новое министерство цифрового развития, связи и массовых коммуникаций
Давид Ян запустил сервис «умной» корпоративной аналитики Yva
Кейсы
В китайской школе используют систему распознавания лиц для слежки за отвлекающимися учениками
Кейсы