Система Halo Point преставляет собой шасси с шестью процессорными стойками размером с микроволновую печь. В ней установлено 1152 процессора Loihi 2, произведенных на базе Intel 4 process node и названных в честь вулкана на Гавайях.
Система поддерживает до 1,15 миллиарда нейронов и 128 миллиардов синапсов, распределенных по 140 544 нейроморфным процессорным ядрам, и потребляет до 2600 Вт электроэнергии. Также она включает более 2300 встроенных процессоров Intel x86 для вспомогательных вычислений.
Hala Point объединяет каналы обработки данных, памяти и связи в массивно распараллеленную структуру, обеспечивая в общую пропускную способность памяти 16 петабайт в секунду (ПБ/с), межъядерную пропускную способность 3,5 ПБ/с и межкристальную пропускную способность 5 терабайт в секунду (ТБ/с). Благодаря этому система способна обрабатывать более 380 триллионов 8-битных синапсов и более 240 триллионов нейронных операций в секунду.
По данным Intel, Hala Point способна поддерживать до 20 квадриллионов операций в секунду, или 20 петаопс, с эффективностью, превышающей 15 триллионов 8-битных операций в секунду на ватт (TOPS/Вт) при использовании обычных нейронных сетей глубинного обучения. Компания заявляет, что эта эффективность сопоставима с уровнями, достигнутыми архитектурами, построенными на графических процессорах (GPU) и центральных процессорах (CPU), и даже превосходит их.
Предназначение Hala Point в будущем — обеспечение непрерывного обучения в режиме реального времени для таких приложений искусственного интеллекта, как решение научных и инженерных задач, логистика, управление инфраструктурой «умного города», большие языковые модели (LLM) и агенты искусственного интеллекта.
Партнер Intel по проекту Hala Point — Sandia National Laboratories — приводит данные, иллюстрирующие прогресс нейроморфных систем за последние 10 лет:
Не смотря на очевидный прогресс нейроморфных систем, им еще очень далеко до уровня сложности и эффективности человеческого мозга, По оценкам ученых, человеческий мозг содержит около 100 миллиардов нейронов и до 500 триллионов синапсов.
На обложке — иллюстрация Intel Corporation