Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Нейронные сети учатся выполнять задачи путем анализа огромных наборов данных. Их использование привело к впечатляющему росту возможностей искусственного интеллекта, в том числе в распознавании речи и машинном переводе. Но перед исследователями возникла неожиданная проблема: во время обучения нейросети начали регулярно корректировать собственные настройки способами, которые создатели не могли интерпретировать.

Чтобы понять, как работает искусственный интеллект, ученые углубились в его изучение. Одной из команд, бьющихся над разрешением этой проблемы, является группа ученых из Массачусетского технологического института и Катарского института компьютерных исследований, о работе которой рассказывает Science Daily. Они использовали недавно разработанный метод интерпретации, который применялся в других областях, чтобы понять логику принятия решений в системах распознавания речи и машинного перевода.

Как выявило исследование, системы вначале концентрируются на задачах более низкого уровня, (таких как распознавание звука или части речи), после чего переходят на более высокий уровень (транскрипция или семантическая интерпретация). Это немного напоминает структуру человеческого мозга. Как правило, сети состоят из слоев, причем каждый слой состоит из множества простых блоков обработки. Данные попадают в нижний слой, где обрабатываются и передаются выше.

Связи между слоями имеют разные «веса», которые определяют, насколько результат каждого узла влияет на вычисления, выполняемые в следующем. Во время обучения «веса» связей постоянно корректируются. Теоретически ученые могут измерить вес всех связей обученной сети, но если речь идет о миллионах узлов, то сделать это практически невозможно. Поэтому исследователи из МТИ использовали несколько иной метод: они обучили сеть и проанализировали ответ каждого слоя на отдельные задачи. Это позволило определить, для какой задачи оптимизирован каждый уровень.

В примере с распознаванием речи удалось выяснить, что нижние слои лучше верхних справляются с распознаванием фонем, единиц устной речи, в то время как для верхних слоев эта способность была менее значимой. Аналогично этому, при машинном переводе низкие уровни специализируются на работе с частями речи и морфологией. При этом верхние уровни лучше справляются с семантикой — значениями слов.

В наиболее эффективных системах машинного перевода используются так называемые модели кодирования-декодирования. Хотя кодировщик и декодер обучаются совместно, их можно рассматривать как отдельные сети. Исследователи обнаружили, что нижние слои кодировщика хорошо распознают морфологию, чего нельзя сказать о высоких уровнях декодера. Переучив сеть, переводящую с английского на немецкий, и повысив возможности декодера, ученым удалось повысить точность перевода на 3%.

Результат не самый впечатляющий, но он показывает, что работа с глубокими механизмами искусственного интеллекта способна давать практический выход. К тому же подобные исследования являются своеобразным ответом на опасения, что ИИ становится слишком сложным для понимания.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Умные фары не слепят водителей и показывают голограммы
Умные вещи
В 2026 в США будет 2500 беспилотных летающих такси Mobi-One
Транспорт будущего
Открыт метод дистанционной иммунотерапии рака
Борьба с раком
Гены миног дадут человеку возможность восстанавливать спинной мозг
Регенеративная медицина
Высокие цены на хранение данных мешают развитию генной терапии
Генетика
Клинике Мэйо позволили «штамповать» стволовые клетки для экспериментов
Регенеративная медицина
Альтернативная энергетика
Через два года возобновляемая энергия станет дешевле традиционной
Автопроизводители уже инвестировали в электромобили более $90 млрд
Электромобили
Эксперты: «Идея БОДа совершит прорыв в 2018 году»
Мнения
Энергия солнца и ветра составила почти 100% новых мощностей в США
Чистая энергетика
Новые пептиды подталкивают раковые клетки к самоубийству
Борьба с раком
Бундесбанк: «Регулировать биткойн можно только на мировом уровне»
Криптовалюты
Криптовалюты
Майнеры добыли 80% всех биткойнов
Наклейка на кожу подскажет, когда пора прекращать загорать
Технологии здоровья
Спутник для онлайн-трансляций 4К-видео выведен на орбиту
Кейсы
Volvo испытает беспилотный пассажирский автобус в 2019
Транспорт будущего
«К 2022 году гаджеты будут знать о людях больше, чем члены семьи»
Гаджеты
Ученые создают революционные технологии на основе графена
Прорывные технологии
Новый реактивный ранец JB11 станет быстрее и обзаведется парашютом
Транспорт будущего
Экологичный транспорт
Электробаржи заменят тысячи фур в Голландии и Бельгии
Биохакеры ускорили создание искусственной поджелудочной
Биотехнологии
Мрачный прогноз
«Tesla постигнет та же судьба, что и Ford»
Приложение Apple помогло раскрыть дело об убийстве
Кейсы
Baidu запустила платформу для блокчейн-услуг
Блокчейн
Forever Battery — пальчиковые батарейки с беспроводной зарядкой
Умный дом
Новая технология предупредит о слежке с дрона
Идеи
Стоимость солнечной энергии в Австралии упала на 44% с 2012 года
Солнечная энергия
Генная терапия рака увеличит социальное неравенство
Медицина будущего
Создано углеродное волокно из соломы
Новые технологии
Новая уязвимость Intel позволяет взламывать корпоративные ноутбуки
Кибербезопасность
В Британии разрешили платежи через мессенджеры
Мобильные платежи
Panasonic построит в США «умный город будущего»
Умный город
Тренды
Вертикальные фермы захватывают города, тоннели и даже пустыни
Новый модульный дрон может сам собирать себя в полете
Тренды
Эксплуатация электромобиля обходится на 50% дешевле, чем машины с ДВС
Электромобили
Boeing показал концепт гиперзвукового самолета-разведчика
Идеи
Космический грузовик Dragon второй раз вернулся с орбиты на Землю
Частный космос
Ford выпустит полностью электрический внедорожник к 2020 году
Электромобили
Оксфордский стартап проводит испытания универсальной вакцины от гриппа
Медицина будущего
GM показала робомобиль без руля и педалей
Беспилотные автомобили
В Британии разработана самая надежная квантовая система связи
Идеи
Тренды
Как Маск спровоцировал новую космическую гонку
ГМО-бактерии и брокколи помогут победить рак
Борьба с раком
В США фаст-фуд сети заменят часть персонала роботами, чтобы сэкономить
Автоматизация
Слежка за частной жизнью целых наций незаметно становится нормой
Контроль и цензура
Китайские ИТ-специалисты начали покидать Кремниевую долину
Тренды
Тренды
Конец эпохи антибиотиков и подтверждение «биологической аннигиляции»
От высадки на Марс нас отделяют ракеты, скука и радиация
Космические планы
Лучшие новинки CES-2018
Рейтинг лучших