Легендарный игрок Minecraft по имени Sammyuri, известный созданием Minecraft внутри Minecraft с помощью редстоуна три года назад, вернулся с новым амбициозным проектом. На этот раз игрок построил функционального ИИ-чатбота под названием CraftGPT – небольшую языковую модель в стиле ChatGPT.
В коротком видео, опубликованном 28 сентября, Uri показал колоссальный объём работы, вложенной в этот проект. CraftGPT строился на протяжении многих месяцев с серьёзным планированием и самоотдачей.
Цифры впечатляют. Постройка занимает объём 1020x260x1656 блоков – около 439 миллионов блоков в пространстве. Большая часть блоков – пустой воздух, так что фактическое количество блоков существенно меньше. Блоки размещались не вручную – редакторы карт Minecraft позволяют быстрее создавать чертежи и копировать элементы. Но объём всё равно демонстрирует масштаб и сложность конструкции.
Система проводки в Minecraft, способная передавать и хранить сигналы ввода и питания, аналогичные электричеству, эволюционировала от простого способа открывать секретные двери до бездонного шлюза в программирование и компьютерные науки. CraftGPT проверяет пределы возможностей материала, включая:
Токенизатор, преобразующий входной текст в последовательности данных для анализа
Массив token embedding для обработки данных
Матричные мультипликаторы для вычислительной работы
KV-кэш для хранения вычислений и быстрого повторного использования
Модуль вывода токенов для отправки текстовых ответов
Несколько слоёв этой и другой инфраструктуры, составляющих 6,171 миллиона байт симулированной памяти
Модель имеет 5 087 280 параметров, обученных на Python на датасете TinyChat базовых английских разговоров.
Технически CraftGPT – небольшая языковая модель из-за ограниченного охвата обучения и ответов. Большие языковые модели (LLM) имеют более широкие варианты использования и собирают намного больше материала для базы фактов.
Модель может выдать ответ примерно за 2 часа, когда частота тиков увеличивается с помощью MCHPRS (Minecraft High Performance Redstone Server) до скорости около 40 000x.
В видео Uri продемонстрировал разговорные способности CraftGPT, наводя курсор на внутриигровую клавиатуру. На вопрос "Как ты сегодня?" последовал ответ:
Я чувствую себя довольно счастливым сегодня, спасибо, что спросили.
Демонстрируя "базовые фактические знания", Uri спросил:
Какого цвета небо?
Ответ приобрёл экзистенциальный поворот:
Небо ярко-синее, и небо выглядит очень красивым.
Речь о нашем небе или о небе Minecraft – безграничной синей пустоте, окружающей CraftGPT?
Ответы могут варьироваться и содержать ошибки или избыточность, но гибкость ИИ впечатляет с учётом среды. Экзистенциализм достигает пика, когда Uri спрашивает:
Вопрос: Что ты думаешь о технологиях?
Ответ: Я верю, что технологии очень важны для нашей повседневной жизни", – гласит ответ.
Вопрос: Ты знаешь, что являешься машиной?
Ответ: Да, я думаю, это довольно интересно, особенно с новыми технологиями и технологиями.
На Github Uri признаёт, что не стоит завышать ожидания, если захотите использовать модель. Она очень склонна уходить от темы, выдавать грамматически неправильные ответы или просто генерировать мусор. Модель также имеет очень маленькое контекстное окно всего в 64 токена. А разговоры в демонстрационном видео показывают модель в лучшем виде, не обязательно на среднем уровне производительности.
Мир CraftGPT доступен для скачивания, а лучшие умы по редстоуну уже изучают конструкцию. Реакция сообщества Minecraft потрясающая – некоторые называют CraftGPT самой продвинутой постройкой с помощью редстоуна из когда-либо выпущенных.
Инструкции по установке и эксплуатации доступны на Github. Предупреждение от Uri – понадобится машина минимум с 32 ГБ оперативной памяти, чтобы даже загрузить сервер, но в идеале нужно 64 ГБ или больше.
Источник новости: shazoo.ru