Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

После того, как исследователи из Facebook обнаружили, что их ИИ-боты создали новый язык для более эффективного общения, они решили настроить ботов, чтобы они использовали английский. Это ставит важный вопрос о том, следует ли разрешать ИИ генерировать «новые языки» для повышения эффективности, пишет Futurism.

Разрабатывая чат-боты для ведения переговоров, исследователи из Лаборатории искусственного интеллекта Facebook (FAIR) еще в июне заметили, что они не только научились лгать, но и спонтанно разработали собственный нечеловеческий язык. Система кодовых слов была разработана для максимального повышения эффективности их общения.

За разговор на английском языке боты не получали вознаграждение, и у них не было оснований придерживаться его, поскольку это не способствовало их конечной цели стать более эффективными переговорщиками. Наоборот, боты имели множество стимулов, чтобы отклоняться от языка, так же, как сообщества людей с опытом создают сокращенные формы для более быстрого или эффективного обсуждения сложных идей.

По словам исследователей, они могли расшифровать новый язык без особых усилий, потому что он все еще был основан на английском. Однако теперь ученые не могли быть уверены, что их переводы на 100% правильны. «Важно помнить, что в мире не существует билингвов, одинаково владеющих человеческими и ИИ-языками», — говорит Дхрув Батра из FAIR. Этот новый язык также не служил цели исследования. «Наш интерес заключался в ботах, которые могли бы разговаривать с людьми», — говорит научный сотрудник FAIR Майк Льюис.

В конце концов, исследователи решили настроить ботов так, чтобы избежать ухода от английского языка.

Такое спонтанное развитие независимого языка напоминает о том, насколько мало мы все еще знаем об ИИ. Он, несомненно, мог бы помочь нам. Однако опасности, которые кроются в ИИ, заставляют многих экспертов громче говорить о них. Должны ли мы позволить ИИ разрабатывать диалекты, специфичные для конкретных задач с целью повышения производительности, зная, что мы не можем по-настоящему понять, о чем они говорят?

Исследователь ИИ Марк Ридл из Технологического института Джорджии считает, что ИИ, обученные оптимизации с помощью вознаграждений, в конечном итоге могут увидеть в людях угрозу их планам оптимизации. И в конечном итоге, избавиться от человека так, как они избавились от человеческого языка. Опасность, как говорит Илон Маск и Стивен Хокинг, заключается в том, что когда мы заметим настоящие риски со стороны ИИ, будет уже слишком поздно.

Процессы, проходящие внутри искусственного интеллекта, часто не поддаются описанию человеческим языком. По мнению японского нейробиолога Риото Канаи и его коллег, вместо того чтобы учить машины нашему языку, лучше дать им возможности создать свой.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Black Rock предсказывает будущее экономики с помощью больших данных
Идеи
Из стволовых клеток создали вакцину против рака
Борьба с раком
Австралийский биохакер будет защищать права киборгов в суде
Биохакинг
Британская организация предлагает ввести БОД для рабочих
Соцпособия будущего
Идеи
Графеновый фильтр в один шаг очистил воду из Сиднейской бухты
ОАЭ планируют отправить первую миссию на Марс в 2020 году
Космос
«Яндекс» испытал беспилотный автомобиль на улицах Москвы
Кейсы
«Стволовые клетки — это загрузочный диск вашего организма»
Борьба со старением
CRISPR применят для диагностики
Тренды
В Австралии запустили крупнейшую в стране плавучую солнечную станцию
Солнечная энергетика
Новая 3D-биопечать создает естественную среду для развития тканей
Биотехнологии
Квантовые компьютеры
Intel создала квантовый компьютер в два кубита на кремниевом чипе
В Дубае прошли испытания первых в мире автономных кабин
Автономный транспорт
Eviation обещает выпустить электросамолет к 2021 году
Идеи
Новый вид иммунотерапии поможет справиться с вирусом гриппа
Медицина
К 2020 году Boeing будет выпускать по самолету каждые 10 часов
Кейсы
Генное редактирование поможет бороться с умственной отсталостью
Биотехнологии
Starfighters подготовит первых космических туристов к полетам
Частный космос
Услуги блокчейн-консалтинга на Западе и в России
Блокчейн
Кейсы
Чикаго и Кливленд может соединить линия Hyperloop
Термальный резонатор получает энергию из колебаний температуры воздуха
Чистая энергия
ИИ научился фиксировать землетрясения лучше сейсмологов
Кейсы
Новая технология не позволит 3D-напечатанным стенам обрушиться
Строительная 3D-печать
Тим Кук: «Надеюсь дожить до момента, когда наличные выйдут из оборота»
Мнения
Дрон с жестким крылом EagleRay способен летать и плавать под водой
Дроны в законе
Открыт эффективный вид иммунотерапии рака кишечника
Борьба с раком
Dyson работает над целой линейкой электромобилей
Электромобили
Кейсы
В Сиэтле убрали с улиц камеры для слежки за гражданами
Big Buddy Bike — деревянный электровелосипед с авто-балансировкой
Электровелосипеды
Huawei проведет испытания 5G в Ванкувере
Переход на 5G
Цукерберг может продать акции Facebook на $13 млрд
Благотворительность
Pheramor обещает подобрать идеального партнера по ДНК
Генетика
Сделан новый шаг к созданию вакцины против героина
Медицина будущего
Большой Брат
Израильский стартап разработал защиту от распознавания лиц
Генная терапия ВИЧ переживает второе рождение
Медицина будущего
ФБР, ЦРУ и АНБ предупредили об опасности смартфонов Huawei
Кибербезопасность
Facebook в июле представит сразу две умные колонки
Идеи
В британской больнице ИИ помогает врачам делать УЗИ плода
Медицинские технологии
Новый ИИ-процессор позволит запускать нейронные сети на смартфонах
Искусственный интеллект
Изменение климата
Стэнфордские ученые советуют готовиться к климатической катастрофе
Датчик в ботинке позволяет точно определить местоположение без GPS
Навигация
Shell инвестировала в сервис доступа к чистой энергии по подписке
Возобновляемая энергетика
Тренды
Власти США хотят сделать SpaceX глобальным интернет-провайдером
Ученые повернули вспять развитие болезни Альцгеймера у мышей
Медицина будущего
Google выпустит чатбот, который будет отвечать за вас в мессенджерах
Идеи
В США одобрили первый анализ крови на сотрясение мозга
Медицина будущего
В Китае будут контролировать рынок аренды через блокчейн
Блокчейн-технологии
Как получить криптонаследство
Блокчейн
Разработана «нанофабрика», уничтожающая раковые клетки
Биотехнологии