Сообщить об ошибке на сайте
URL
Ошибка

Что такое deep learning и почему о нем все говорят?

8 карточек18 апреля 2018, 13:04
  1. О чем речь?

    С появления термина «глубокое обучение» прошло уже больше 20 лет, но широко заговорили о нем только недавно. Кратко объясняем, почему так получилось, что такое deep learning, чем оно отличается от машинного обучения и почему вам надо об этом знать.

  2. Что это такое?

    Глубокое обучение — это ветвь развития машинного обучения, где используется модель, вдохновленная устройством мозга — взаимодействием нейронов.

    Сам термин появился еще в 1980-х, но до 2012 года для реализации этой технологии не хватало мощностей и на нее почти никто не обращал внимание. После серии статей известных ученых, публикаций в научных изданиях технология быстро стала популярной и получила внимание крупных медиа, — первым из мировых СМИ об этом написал The New York Times. Одним из поводов для материала стала научная работа специалистов из университетов Торонто Алекса Крижевского, Ильи Сатскевера и Джеффа Хинтона. Они описали и проанализировали результаты конкурса распознавания изображений ImageNet, где с большим отрывом победила их нейросеть, обученная с помощью deep learning, — система определила 85% объектов. С тех пор в конкурсе побеждала только глубокая нейросеть

  3. Погодите, а что такое машинное обучение?

    Это подобласть искусственного интеллекта и термин — им описывают методы построения алгоритмов, которые учатся на своем опыте, без написания специальной программы. То есть человеку в этом случае не надо объяснять машине, как решить задачу, она находит ответ сама, из данных, которые ей предоставлены. К примеру, если мы хотим, чтобы алгоритм определял лица, мы должны показать ему десять тысяч разных лиц, отметить, где именно находится лицо, и тогда программа научится определять его самостоятельно.

    Обучаться машина может как с помощью учителя, когда он помечает для машины правильные ответы, так и без него. Но результаты лучше при обучении с учителем. Каждый раз, когда происходит обработка данных, система становится точнее.

  4. А глубокое обучение как работает?

    Оно имитирует абстрактное мышление человека и умеет обобщать. Например, нейросеть, обученная машинным способом, плохо распознает рукописные буквы — и чтобы она не путалась в различных вариантах написания, все они должны быть в нее загружены.

    Глубокое обучение же используется в случае работы с многослойными искусственными нейронными сетями и сможет справиться с этой задачей.

    Сергей Николенко, соавтор книги «Глубокое обучение»: «Есть три термина, которые в последнее время часто используют почти взаимозаменяемо: искусственный интеллект, машинное обучение и глубокое обучение. Однако на самом деле это „вложенные“ термины: искусственный интеллект — это всё что угодно, что может помочь компьютеру выполнять человеческие задачи; машинное обучение — это раздел ИИ, в котором программы не просто решают задачи, а обучаются на основе имеющегося у них опыта, а глубокое обучение — это раздел машинного обучения, изучающий глубокие нейронные сети.

    Проще говоря: 1. если вы написали программу, играющую в шахматы, — это искусственный интеллект; 2. если она при этом обучается на базе партий гроссмейстеров или играя против самой себя — это машинное обучение; 3. а если обучается у неё при этом не что-нибудь, а глубокая нейронная сеть, — это глубокое обучение».

  5. Как работает глубокое обучение?

    Возьмем простой пример — мы покажем нейросети фотографии, на которых изображены мальчик и девочка. На первом слое нейроны реагируют на простые визуальные образы — например перепады яркости. На втором — более сложные: углы, окружности. К третьему слою нейроны способны реагировать на надписи и человеческие лица. К каждому следующему слою определяемые образы будут сложнее. Нейронная сеть сама определяет, какие визуальные элементы ей интересны для решения этой задачи, и ранжирует их по степени важности, чтобы в дальнейшем лучше понимать, что изображено на фотографии.

  6. И что с помощью него уже разработали?

    Больше всего проектов с глубоким обучением применяется в распознавании фотографии или аудио, диагностике заболеваний. Например, оно уже используется в переводах Google с изображения: технология Deep Learning позволяет определить, есть ли на картинке буквы, а затем переводит их. Другой проект, который работает с фото, — система распознавания лиц под названием DeepFace. Она умеет распознавать человеческие лица с точностью 97,25% — примерно с той же точностью, что и человек.

    В 2016 году Google выпустил WaveNet — систему, которая может имитировать человеческую речь. Для этого компания загрузила в систему миллионы минут записанных голосовых запросов, которые использовались в проекте OK Google, и после изучения, нейросеть смогла сама составить предложения с правильными ударениями, акцентом и без нелогичных пауз.

    При этом глубокое обучение может семантически сегментировать изображение или видео — то есть не просто обозначать, что на картинке есть объект, но и идеально выделить его контуры. Эта технология используется в беспилотных автомобилях, которые определяют, есть ли помехи на дороге, разметку и считывают информацию с дорожных знаков, чтобы избежать аварий. Нейросеть также используют в медицине — чтобы определять диабетическую ретинопатию по фотографиям глаз пациентов например. Министерство здравоохранения США уже разрешило использовать эту технологию в государственных клиниках.

  7. А почему глубинное обучение не начали внедрять раньше?

    Раньше это было затратно, сложно и долго — нужны были мощные графические процессоры, видеокарты и объемы памяти. Бум глубинного обучения как раз связан с широким распространением графических процессоров, которые ускоряют и удешевляют вычисления, практически неограниченные возможности хранения данных и развитие технологии «больших данных».

  8. Это прорывная технология, она все поменяет?

    Об этом сложно сказать точно, мнения разнятся. С одной стороны, Google, Facebook и другие крупные компании уже вложили миллиарды долларов и настроены оптимистично. По их мнению, нейросети с глубинным обучением способны поменять технологическое устройство мира. Один из главных специалистов по машинному обучению — Эндрю Ынг — говорит: «Если человек может выполнить задачу в уме за секунду, скорее всего, в ближайшее время эта задача будет автоматизирована». Ынг называет машинное обучение «новым электричеством» — это техническая революция, и компании, которые ее проигнорируют, очень быстро обнаружат себя безнадежно отставшими от конкурентов.

    С другой стороны, есть и скептики: они считают, что глубокое обучение — это модное слово или ребрендинг нейронных сетей. К примеру, старший преподаватель факультета компьютерных наук ВШЭ Сергей Бартунов считает, что этот алгоритм — лишь один из вариантов (и при этом не лучший) обучения нейросети, который быстро подхватили массовые издания и о которых теперь знают все.

    Сергей Николенко, соавтор книги «Глубокое обучение»: «История искусственного интеллекта уже знала две „зимы“, когда за волной хайпа и завышенных ожиданий следовало разочарование. Оба раза, кстати, это было связано с нейронными сетями. Сначала в конце 1950-х решили, что перцептрон Розенблатта тут же приведёт к машинному переводу и осознающим себя компьютерам; но, конечно, не получилось из-за ограниченности железа, данных и отсутствия подходящих моделей.

    А в конце 1980-х ту же ошибку совершили, когда разобрались, как обучать любые архитектуры нейронных сетей. Показалось, что вот он, золотой ключик, открывающий любые двери. Это уже был не такой уж наивный вывод: действительно, если взять нейронную сеть из конца 1980-х, механически сделать её больше (увеличить число нейронов) и обучить на современных наборах данных и современном „железе“, она будет очень даже неплохо работать! Но ни данных, ни „железа“ в то время не хватало, и революцию глубокого обучения пришлось отложить до конца нулевых годов.

    Сейчас мы живём на третьей волне хайпа искусственного интеллекта. Закончится ли она третьей „зимой“ или созданием сильного ИИ — покажет только время».

    Автор: Ильнур Шарафиев

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Читайте также
    Колонизация отменяется: почему терраформирование невозможно на Марсе
    Тренды
    Сет Стивенс-Давидовиц: у людей гораздо больше непристойных и скверных мыслей, чем мы думали
    Мнения
    Умные города подвергают своих жителей опасности из-за датчиков освещения и радиации
    Тренды
    Биоценоз в фарме: зачем нужна альтернатива антибиотикам и как работают лекарства нового поколения
    Тренды
    Мнения
    Геронтолог Обри ди Грей: жизнь длиной в тысячу лет — это побочный эффект поиска вечного здоровья
    Чарльз Адлер, co-founder Kickstarter: я — панк-рокер, который раздвигает границы
    Кейсы
    Как ИИ меняет медицину: личный помощник для врачей, маршрутизатор в клиниках и разработчик лекарств
    Кейсы
    Эдвин Диндер, Huawei Technologies: умный город — это ничто
    Мнения
    «Если изобретение с ИИ не приносит пользу, сам продукт никому не нужен»
    Мнения
    Feature engineering: шесть шагов для создания успешной модели машинного обучения
    Тренды
    Карло Ратти, Senseable City Laboratory (MIT) — о городах будущего, третьей коже человека и роболодках
    Тренды
    Мнения
    Человек — это набор из пяти чисел: Игорь Волжанин, DataSine — о психотипировании с помощью big data
    Мы все — сенсоры: CEO SQream Ами Галь — о том, как обрабатывают big data
    Кейсы
    Что такое скрапинг: как Amazon, Walmart и другие ритейлеры используют ботов в борьбе с конкурентами
    Идеи
    Почему китайские подлодки-беспилотники станут самым опасным врагом под водой?
    Идеи
    Филипп Роуд, LSE Cities: самый кошмарный сценарий — беспилотники, ездящие по городу, чтобы не платить за парковку
    Мнения
    Юрий Корженевский — о том, как построить безопасные системы для банков на блокчейне
    Блокчейн
    MyGenetics: ДНК-тесты, помогающие «взломать» организм, как компьютер
    Тренды
    Иннополис
    Russian Robot Olympiad: как дети строят роботов и решают реальные инженерные проблемы
    Trade-to-Mine: как биржи привлекают трейдеров в условиях падения рынка
    Блокчейн
    Дмитрий Фадин, 3D Bioprinting Solutions — о будущем биопринтинга и печати органов в космосе
    Мнения
    IoT изменит все: какие умные технологии принесут бизнесу экономию, безопасность и инновации
    Тренды
    Как высокие технологии побуждают нас покупать билеты и туристические услуги
    Тренды
    Чем плоха Кремниевая долина для IT-стартапов из России: дорого, неудобно и нет транспорта
    Мнения
    Жить по-умному: как защитить свой дом и не бояться киберугроз
    Умный дом
    Андрей Синогейкин, Wonder Technologies, — об искусственных алмазах
    Тренды
    Никита Бокарев, ESforce, — о деньгах, киберспорте и его немаргинальности
    Тренды
    Тренды
    YouTube-депрессия: как создатели популярных каналов боятся потерять подписчиков и разум
    Гельмут Райзингер, Orange Business Services, — об IIoT, 5G и телеком-стартапах
    Мнения
    «Робот берет вас на работу»: как искусственный интеллект, блокчейн и VR подбирают персонал
    Мнения
    Телемедицина, роботы и умные дома: каким через 5 лет будет «оцифрованный» город в России
    Тренды
    Мясная революция: как перейти от веганских заменителей к клеточным технологиям и биореакторам
    Идеи
    AI-выборы: как искусственный интеллект и голосовые помощники сделают демократию лучше
    Тренды
    Идеи
    Тупик для беспилотников: как мечты разработчиков разбиваются о неожиданности на дорогах
    Здесь нужен InsurTech: за какими стартапами будущее страхования
    Мнения
    Идеи
    Вирус лженауки в Google: как поисковые системы распространяют опасные мифы о прививках
    «Кто-то управляет моим домом»: как жертв домашнего насилия терроризируют с помощью умных устройств
    Умный дом
    Паскаль Фуа, EPFL, — о ключевых точках, глубоких нейросетях и эпиполярной геометрии
    Мнения
    20 фильмов о кибербезопасности, взломах и цифровых преступлениях
    Тренды
    Ян Лекун, Facebook: прогностические модели мира — решающее достижение в ИИ
    Мнения
    Джианкарло Суччи: «Попытка спроектировать программу без багов — утопия»
    Иннополис
    Game out: Как видеоигры обучают детей-аутистов держать равновесие и узнавать людей
    Тренды
    Прослушка, контроль камеры и предсказание смерти пользователя: самые странные патенты Facebook
    Кейсы
    Цес Снук, QUVA: мы не хотим зависеть от крупных компаний, которые владеют всеми данными
    Мнения
    Дмитрий Песков, АСИ: «В России традиционно долго запрягают, и в сфере IT мы только этим и занимаемся»
    Иннополис
    ДНК-тесты: как генетические компании обманывают людей и разрушают семьи
    Мнения
    Мануэль Маццара: «Для Facebook вы не покупатель, вы — продукт»
    Иннополис
    Тренды
    Блокчейн, искусственное мясо и «смерть» смартфонов: что будет с технологиями через 10 лет
    Витторио Феррари, Google: «Чтобы машина распознала книгу о Гарри Поттере нужна сложная математическая модель»
    Мнения