Предложен способ сократить на 30% расход энергии при обучении ИИ

Исследователи нашли способ сократить «холостой» расход электричества.

Исследователи из Мичиганского университета показывают, что можно сократить на 30% расход энергии, необходимой для обучения крупных языковых моделей ИИ, таких как GPT. Предложенный метод позволяет завершать обучение за то же время, потребляя меньше электричества.

Ученые объясняют, что энергетические затраты возникают из-за неравномерного распределения вычислений между графическими процессорами. Некоторые процессоры оказываются перегруженными, в то время как другие простаивают, что приводит к неэффективному потреблению энергии.

Модели ИИ настолько велики, что не могут поместиться в один процессор компьютера. Их нужно разделить на десятки тысяч процессоров для обучения, но разделить модели на идеально равные размеры практически невозможно.

Чжэ-Вон Чунг, соавтор исследования

Задания по обучению также сложно равномерно распределить, потому что некоторые задачи должны быть сгруппированы вместе на одном процессоре. В зависимости от группировки, некоторые процессоры могут застрять на сложных задачах, пока другие быстро решат простые и будут работать в холостом режиме.

Для решения этой проблемы исследователи разработали программу Perseus. Она определяет критические участки вычислений или ряд подзадач, выполнение которых займет больше всего времени. Затем программа замедляет процессоры, которые не находятся на критическом пути, чтобы они все завершили свою работу примерно в одно и то же время, устраняя ненужное потребление энергии.

По оценкам ученых, подтвержденных тестами, при таком подходе сроки обучения не меняются, а энергопотребление сокращается на 30%. Сэкономленных ресурсов хватит для питания 1,1 млн домов. Кроме того, предложенный метод снизит углеродный след, связанный с работой центров обработки данных.


Читать далее:

Биологи случайно нашли животное, которое стареет в обратном направлении

Одно из библейских чудес Иисуса Христа объяснили

Эта пищевая добавка предотвращает 19 видов рака — исследование

На обложке: Изображение от freepik, сведения о лицензии

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Вирус герпеса перестраивает геном человека, но есть способ его остановить
Наука
Разработаны роботы размером с игрушечную машинку для ремонта водопроводных труб
Новости
В Самаре запустили первый в России дата-центр, объединяющий майнинг и ИИ
Новости
Болезнь Паркинсона на ранней стадии определят по ушной сере
Наука
BI-стратегия компании: что она дает и как ее создать
Мнения
В Мариинке показали оперу, которую дописал искусственный интеллект
Новости
Открыт нейронный путь, который приводит к бессонице после перенесенного стресса
Наука
Китайский маглев установил рекорд: разогнался до 650 км/ч за семь секунд
Новости
Австралийские бабочки используют звезды для навигации в пространстве
Наука
Древний череп из Китая впервые позволил понять, как выглядели денисовцы
Наука
Открыта загадочная связь между уровнем кислорода и магнитным полем Земли
Космос
Альтернатива сжиганию: разработана технология переработки угля в высокотехнологичное сырье
Наука
Ракета Starship Илона Маска взорвалась на площадке при подготовке к испытаниям
Космос
TECNO MEGABOOK K15S: универсальный ноутбук для тех, кто работает, создает и отдыхает
Кейсы
Два китайских спутника встретились на орбите Земли
Космос
В Москве пройдет второй Международный технологический конгресс МТК-2025
Новости
Из перовскита создали датчик изображения, который улавливает в три раза больше света
Новости
ИИ научили предсказывать риск провала технологических новинок
Новости
Разработан нанопластырь с микроиглами, который может заменить биопсию
Наука
В глубинах Тихого океана обнаружили пауков, питающихся бактериями
Наука