Компания Microsoft представила результат работы проекта Brainwave – систему ускорения глубокого обучения для облачных сервисов. Она предназначена для работы с ИИ в реальном времени, то есть, как пишет в своем блоге ведущий инженер Даг Бургер, обрабатывает запросы сразу же, как только получает их.
На конференции Hot Chip в Купертино (Калифорния) показали работу модели на основе чипа FPGA Stratix 10 со скоростью 39,5 терафлоп с временем ожидания менее 1 мс, не объединяя операции. Это позволяет системе машинного обучения действовать в режиме реального времени.
«Мы назвали это ИИ реального времени, потому что идея заключается в том, что посылая запрос, вы хотите тут же получить ответ, — пишет Бургер. — Будь то видеострим, разговор, поиск злоумышленников или аномалий, во всем, что требует взаимодействия и быстрых результатов, нужен ответ в реальном времени».
Сейчас Brainwave поддерживает модели обучения, созданные с помощью собственного фреймворка CNTK и TensorFlow компании Google. По словам Бургера, его команда работает над совместимостью с другими инструментами, вроде среды глубокого обучения Caffe. Когда именно Brainwave станет доступен пользователям — пока неизвестно, сообщает VentureBeat.
Солнечные стеклоблоки обещают революцию в строительстве
Идеи
О выпуске масштабируемых процессоров Xeon Scalable на основе архитектуры Scylake для «наиболее ресурсоемких приложений» — больших данных, ИИ и интернета вещей — сообщила компания Intel в середине июля. Процессоры Intel Scalable производительнее в 1,65 раз по сравнению с предыдущими поколениями.