Сообщить об ошибке на сайте
URL
Ошибка

Что такое deep learning и почему о нем все говорят?

8 карточек18 апреля 2018, 13:04
  1. О чем речь?

    С появления термина «глубокое обучение» прошло уже больше 20 лет, но широко заговорили о нем только недавно. Кратко объясняем, почему так получилось, что такое deep learning, чем оно отличается от машинного обучения и почему вам надо об этом знать.

  2. Что это такое?

    Глубокое обучение — это ветвь развития машинного обучения, где используется модель, вдохновленная устройством мозга — взаимодействием нейронов.

    Сам термин появился еще в 1980-х, но до 2012 года для реализации этой технологии не хватало мощностей и на нее почти никто не обращал внимание. После серии статей известных ученых, публикаций в научных изданиях технология быстро стала популярной и получила внимание крупных медиа, — первым из мировых СМИ об этом написал The New York Times. Одним из поводов для материала стала научная работа специалистов из университетов Торонто Алекса Крижевского, Ильи Сатскевера и Джеффа Хинтона. Они описали и проанализировали результаты конкурса распознавания изображений ImageNet, где с большим отрывом победила их нейросеть, обученная с помощью deep learning, — система определила 85% объектов. С тех пор в конкурсе побеждала только глубокая нейросеть

  3. Погодите, а что такое машинное обучение?

    Это подобласть искусственного интеллекта и термин — им описывают методы построения алгоритмов, которые учатся на своем опыте, без написания специальной программы. То есть человеку в этом случае не надо объяснять машине, как решить задачу, она находит ответ сама, из данных, которые ей предоставлены. К примеру, если мы хотим, чтобы алгоритм определял лица, мы должны показать ему десять тысяч разных лиц, отметить, где именно находится лицо, и тогда программа научится определять его самостоятельно.

    Обучаться машина может как с помощью учителя, когда он помечает для машины правильные ответы, так и без него. Но результаты лучше при обучении с учителем. Каждый раз, когда происходит обработка данных, система становится точнее.

  4. А глубокое обучение как работает?

    Оно имитирует абстрактное мышление человека и умеет обобщать. Например, нейросеть, обученная машинным способом, плохо распознает рукописные буквы — и чтобы она не путалась в различных вариантах написания, все они должны быть в нее загружены.

    Глубокое обучение же используется в случае работы с многослойными искусственными нейронными сетями и сможет справиться с этой задачей.

    Сергей Николенко, соавтор книги «Глубокое обучение»: «Есть три термина, которые в последнее время часто используют почти взаимозаменяемо: искусственный интеллект, машинное обучение и глубокое обучение. Однако на самом деле это „вложенные“ термины: искусственный интеллект — это всё что угодно, что может помочь компьютеру выполнять человеческие задачи; машинное обучение — это раздел ИИ, в котором программы не просто решают задачи, а обучаются на основе имеющегося у них опыта, а глубокое обучение — это раздел машинного обучения, изучающий глубокие нейронные сети.

    Проще говоря: 1. если вы написали программу, играющую в шахматы, — это искусственный интеллект; 2. если она при этом обучается на базе партий гроссмейстеров или играя против самой себя — это машинное обучение; 3. а если обучается у неё при этом не что-нибудь, а глубокая нейронная сеть, — это глубокое обучение».

  5. Как работает глубокое обучение?

    Возьмем простой пример — мы покажем нейросети фотографии, на которых изображены мальчик и девочка. На первом слое нейроны реагируют на простые визуальные образы — например перепады яркости. На втором — более сложные: углы, окружности. К третьему слою нейроны способны реагировать на надписи и человеческие лица. К каждому следующему слою определяемые образы будут сложнее. Нейронная сеть сама определяет, какие визуальные элементы ей интересны для решения этой задачи, и ранжирует их по степени важности, чтобы в дальнейшем лучше понимать, что изображено на фотографии.

  6. И что с помощью него уже разработали?

    Больше всего проектов с глубоким обучением применяется в распознавании фотографии или аудио, диагностике заболеваний. Например, оно уже используется в переводах Google с изображения: технология Deep Learning позволяет определить, есть ли на картинке буквы, а затем переводит их. Другой проект, который работает с фото, — система распознавания лиц под названием DeepFace. Она умеет распознавать человеческие лица с точностью 97,25% — примерно с той же точностью, что и человек.

    В 2016 году Google выпустил WaveNet — систему, которая может имитировать человеческую речь. Для этого компания загрузила в систему миллионы минут записанных голосовых запросов, которые использовались в проекте OK Google, и после изучения, нейросеть смогла сама составить предложения с правильными ударениями, акцентом и без нелогичных пауз.

    При этом глубокое обучение может семантически сегментировать изображение или видео — то есть не просто обозначать, что на картинке есть объект, но и идеально выделить его контуры. Эта технология используется в беспилотных автомобилях, которые определяют, есть ли помехи на дороге, разметку и считывают информацию с дорожных знаков, чтобы избежать аварий. Нейросеть также используют в медицине — чтобы определять диабетическую ретинопатию по фотографиям глаз пациентов например. Министерство здравоохранения США уже разрешило использовать эту технологию в государственных клиниках.

  7. А почему глубинное обучение не начали внедрять раньше?

    Раньше это было затратно, сложно и долго — нужны были мощные графические процессоры, видеокарты и объемы памяти. Бум глубинного обучения как раз связан с широким распространением графических процессоров, которые ускоряют и удешевляют вычисления, практически неограниченные возможности хранения данных и развитие технологии «больших данных».

  8. Это прорывная технология, она все поменяет?

    Об этом сложно сказать точно, мнения разнятся. С одной стороны, Google, Facebook и другие крупные компании уже вложили миллиарды долларов и настроены оптимистично. По их мнению, нейросети с глубинным обучением способны поменять технологическое устройство мира. Один из главных специалистов по машинному обучению — Эндрю Ынг — говорит: «Если человек может выполнить задачу в уме за секунду, скорее всего, в ближайшее время эта задача будет автоматизирована». Ынг называет машинное обучение «новым электричеством» — это техническая революция, и компании, которые ее проигнорируют, очень быстро обнаружат себя безнадежно отставшими от конкурентов.

    С другой стороны, есть и скептики: они считают, что глубокое обучение — это модное слово или ребрендинг нейронных сетей. К примеру, старший преподаватель факультета компьютерных наук ВШЭ Сергей Бартунов считает, что этот алгоритм — лишь один из вариантов (и при этом не лучший) обучения нейросети, который быстро подхватили массовые издания и о которых теперь знают все.

    Сергей Николенко, соавтор книги «Глубокое обучение»: «История искусственного интеллекта уже знала две „зимы“, когда за волной хайпа и завышенных ожиданий следовало разочарование. Оба раза, кстати, это было связано с нейронными сетями. Сначала в конце 1950-х решили, что перцептрон Розенблатта тут же приведёт к машинному переводу и осознающим себя компьютерам; но, конечно, не получилось из-за ограниченности железа, данных и отсутствия подходящих моделей.

    А в конце 1980-х ту же ошибку совершили, когда разобрались, как обучать любые архитектуры нейронных сетей. Показалось, что вот он, золотой ключик, открывающий любые двери. Это уже был не такой уж наивный вывод: действительно, если взять нейронную сеть из конца 1980-х, механически сделать её больше (увеличить число нейронов) и обучить на современных наборах данных и современном „железе“, она будет очень даже неплохо работать! Но ни данных, ни „железа“ в то время не хватало, и революцию глубокого обучения пришлось отложить до конца нулевых годов.

    Сейчас мы живём на третьей волне хайпа искусственного интеллекта. Закончится ли она третьей „зимой“ или созданием сильного ИИ — покажет только время».

    Автор: Ильнур Шарафиев

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Читайте также
    Как водород поможет горнякам: энергобезопасность, автономность шахт и альтернатива дизелю
    Тренды
    Телемедицина в гаджетах: смарт-браслеты, киоски для онлайн-консультаций и камеры слежения за пожилыми
    Тренды
    Дмитрий Филатов, Sistema_VC: стартапы — это в первую очередь про людей, а во вторую — про деньги
    Мнения
    Эра Data Science: как меняется бизнес с приходом big data и новых технологий
    Тренды
    Народ против транспорта: почему люди недовольны, когда в городах строят новые станции метро
    Идеи
    Кейсы
    «Лиза Алерт»: как беспилотники и краудсорсинг помогают искать пропавших людей
    Беспилотники против велосипедистов: как безопасные автомобили сделают жизнь людей хуже
    Идеи
    SONM: как люди будут зарабатывать на собственных компьютерах с помощью блокчейна
    Кейсы
    Егор Матешук, ostrovok.ru: проблемы big data можно решить, закидывая пачки денег в топку
    Мнения
    Художник-граффитист Миша Most: технология — это кисть, которая создает будущее
    Мнения
    Лунная гонка: как мировые державы собираются присвоить себе спутник Земли
    Идеи
    Тренды
    Итоги Нобелевской недели. За что дали Нобелевскую премию в 2018 году?
    Руслан Шагалеев, Иннополис: война между корпорациями и городами ведется за человеческий капитал
    Идеи
    Кристина Хаверкамп, DENA: цена на электроэнергию должна сильнее коррелировать c погодой: много солнца и ветра — дешево, мало — дорого
    Тренды
    Тренды
    7 лучших книг о технологиях и науке на русском языке, вышедших в 2018 году
    Микрореволюция: фермеры с помощью микробов спасут мир от голода
    Идеи
    Александр Тормасов, Университет Иннополис: мозги людей могут быть совершенно не готовы к восприятию новых идей
    Мнения
    Одежда, которая поможет миру: костюм-помощник, майка-тренер и носок-няня
    Тренды
    В ожидании первого удара: как США готовятся к атаке со стороны России и Китая
    Тренды
    Страшнее метана: какие еще промышленные выбросы разрушают озоновый слой
    Тренды
    Интеллект большого города: как данные и умные алгоритмы улучшают качество жизни в мегаполисах
    Тренды
    На защите европейцев: как GDPR стал дырой в бюджете российских ИТ-компаний
    Мнения
    Игорь Балк, Global Innovation Labs: в XXI веке приватности нет и не будет
    Тренды
    Deneum: как заниматься холодным ядерным синтезом и бороться с сомнениями ученых
    Кейсы
    Расист, оружие и предвзятый судья — каким станет искусственный интеллект в будущем
    Тренды
    На совести информаторов: как громкие скандалы вокруг АНБ, Facebook и Tesla изменили мир
    Тренды
    NativeOS: нативная реклама в видео без репутационных потерь и терроризма от режиссера короткометражек
    Кейсы
    Тренды
    Тихий убийца: как микропластик вызывает болезни и останавливает репродукцию живых организмов
    Гонка для JavaScript-разработчиков: как постоянные обновления мешают работе
    Тренды
    Big data на страже здоровья: как и зачем медицинские организации собирают и хранят данные
    Тренды
    Николь Миллс, Booking.com — об инновациях, agile-подходе и индустрии впечатлений
    Кейсы
    Слишком опасный нанопластик: как одноразовые пакеты превращаются в частицы-убийцы
    Тренды
    Идеи
    Человек и квантовая теория: существует ли то, что мы не наблюдаем
    Здесь может быть ваша реклама: НАСА планирует заработать на космосе миллионы
    Тренды
    Опасный криптотрейдинг: как киберпреступники угрожают виртуальным сбережениям и биржам
    Тренды
    Тренды
    Как через 20 лет будет выглядеть армия будущего
    5 финансовых инструментов, которые помогут инвесторам даже после падения криптовалюты
    Тренды
    Александр Лямин, Qrator Labs: наша задача — выработать у людей цифровую гигиену, чтобы они «не ели с помойки»
    Кейсы
    Эдуард Фош Вильяронга: люди видят в роботе только внешность, забывая, что он следит за ними
    Тренды
    Доктор Куэй Во-Райнард, HIT Foundation: если страна требует суверенитета данных, мы построим для нее отдельный блокчейн
    Кейсы
    «Хакинтош»: как собрать свой собственный Mac лучше, чем у Apple
    Идеи
    Роботы против мигрантов: какой вклад в ксенофобию и расизм делают технологии ИИ
    Тренды
    Война скриптов — искусственный интеллект против навязчивой рекламы
    Тренды
    Как заново изобрести супермаркет: осознанность потребления, этика производства и роботы
    Тренды
    Каждый человек станет сам себе банком: цифровой мир отказывается от посредников между бизнесом и клиентом
    Тренды
    Архитектор вычислительной инфраструктуры «Платона» Александр Варламов — о будущем ИТ-индустрии в России, стартапах и разработке
    Кейсы
    Дмитрий Богданов, капитан сборной России по CS:GO — о стиле жизни киберспортсмена, тренировках и блокировках РКН
    Тренды
    Идеи
    Космос — наш дом: что осталось решить ученым, чтобы поселить человека за пределами Земли
    Прайсинг, трекинг, скоринг, биллинг и другие технологии, которые двигают российский бизнес
    Тренды