Исследователи из Нью-Йоркского университета решили проблему, с которой долго боролись разработчики универсальных моделей ИИ. Обычные системы плохо справляются с генерацией кода Verilog — специализированного языка программирования для описания работы микросхем, поскольку в интернете крайне мало примеров такого кода для обучения.
VeriGen превзошел коммерческие модели при тестировании, достигнув 41,9% точности генерации функционально правильного кода против 35,4% у конкурирующей системы code-davinci-002. При этом новая модель в 10 раз меньше по размеру и имеет полностью открытый исходный код: ее можно запускать даже на мощных ноутбуках без специализированного оборудования.
Для создания VeriGen исследователи собрали крупнейший набор данных кода Verilog, проанализировав около 50 тыс. файлов из репозитория на GitHub и дополнив их материалами из 70 учебников. Эти данные использовали для дообучения языковой модели CodeGen-16B от Salesforce с 16 млрд параметров.
Для обучения потребовалось три графических процессора NVIDIA A100, работающих параллельно, и около 250 ГБ памяти графических чипов. Результат оправдал затраты: точность модели выросла с изначальных 1,09% до 27% после специализированного обучения.
VeriGen протестировали на задачах различной сложности: от базовых цифровых компонентов до продвинутых конечных автоматов. Хотя модель пока не идеальна в самых сложных случаях, это существенное улучшение по сравнению с моделями общего назначения, особенно в генерации синтаксически корректного кода.
Исследователи сообщают, что открытый исходный код проекта привлек внимание производителей оборудования, включая Qualcomm и NXP, которые оценивают коммерческий потенциал технологии. Разработчики продолжают совершенствовать модель для повышения точности.
Читать далее:
Наша Вселенная прибыла из другого мира: теория мироздания оказалась неверна?
Физик предложил заменить пространство-время трехмерным временем
Появилась безопасная альтернатива препаратам от диабета и ожирения
Иллюстрация на обложке: designed by Freepik, лицензия