Ютубер sammyuri собрал в Minecraft собственную языковую модель под названием CraftGPT. Она занимает 439 миллионов блоков и умеет генерировать ответы, хоть и делает это крайне медленно.
Minecraft давно славится как игра без границ для фантазии. Но проект блогера sammyuri вышел за привычные рамки: он построил в «песочнице» полноценную языковую модель ИИ.
CraftGPT занимает область размером 1020 × 260 × 1656 блоков — это 439 млн блоков. Для демонстрации работы пришлось подключить мод District Horizons.
В основе CraftGPT лежит 5 087 280 параметров. Модель обучили на Python с помощью датасета TinyChat. По сравнению с первыми версиями настоящих нейросетей CraftGPT выглядит крошечной: она в 23 раза меньше GPT-1 и в 175 тысяч раз меньше GPT-3.
Sammyuri сразу предупредил: ожидания стоит снижать. CraftGPT часто сбивается с темы, делает грамматические ошибки и выдаёт ответы, не совпадающие с запросами.
Главная проблема — скорость. Даже при ускорении серверных тиков в 40 тысяч раз модель выдает ответ за два часа. Без этой настройки один ответ пришлось бы ждать больше десяти лет.
Попробовать CraftGPT может любой. Файлы и инструкции лежат на GitHub. Но для запуска нужен мощный компьютер: минимум 32 ГБ оперативной памяти, а лучше — 64 ГБ.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: YouTube / sammyuri
