aigcbar - null

我的世界造出ChatGPT：500万参数模型背后的红石魔法与AI未来

type
status
date
slug
summary
tags
category
icon
password
网址

引言

当虚拟世界的方块与现实世界的前沿AI技术相撞，会擦出怎样的火花？最近，一位名叫sammyuri的技术大神给出了一个惊世骇俗的答案：他在《我的世界》（Minecraft）中，从零开始，手动搭建了一个功能完备的ChatGPT模型！
这并非简单的指令或模组，而是一个拥有500万参数、能够进行英语对话的神经网络，完全由游戏中最基础的红石电路（代表0和1）和存储单元构成。这一壮举的难度，堪比在60年代的超级计算机上运行现代大型游戏，它不仅展示了《我的世界》这款游戏的无限潜力，也引发了我们对计算、创造力乃至人工智能本质的深刻思考。当我们还在探索ChatGPT国内如何使用时，已经有人在像素世界里将它复现了。
---

从虚拟方块到神经网络：一个“不可能”的任务

sammyuri在《我的世界》中构建的这个GPT模型，虽然参数量（约500万）远小于当今主流的大语言模型，但其架构却“五脏俱全”，完美复刻了现代Transformer模型的核心组件。
  • 模型架构：它包含了词嵌入（Token Embedding）、位置编码（Positional Encoding）、层归一化（LayerNorm）、矩阵乘法、多头自注意力机制（Multi-Head Attention）、KV缓存（KV Cache）以及ReLU激活函数等关键部分。
  • 具体参数：
  • 总参数量：5,087,280个
  • 嵌入维度：240
  • 词汇量：1920个token
  • 模型层数：6层Transformer块
  • 注意力头：5个
  • 上下文窗口：64个token，足以处理简短对话
为了实现这个庞大的工程，整个建筑在游戏中的体积达到了惊人的1020×260×1656个方块。尽管性能上无法与现实世界的硬件相比——在服务器tick速率提升40000倍的情况下，生成一个回复仍需约2小时——但其象征意义和技术实现远超性能本身。它证明了，只要有基本的逻辑单元，构建复杂的智能系统在理论上是完全可行的。

红石电路：Minecraft中的“硅基生命”

这一切之所以成为可能，核心在于《我的世界》中一个独特的游戏机制——红石电路。对于不熟悉这款游戏的读者来说，红石电路可以被理解为游戏内的电力和逻辑系统。
它的基础原理与现实世界的数字电路如出一辙： 1. 二进制基础：红石信号只有两种状态——“激活”（代表1）和“未激活”（代表0）。 2. 逻辑门构建：玩家可以利用红石火把、中继器、比较器等道具，搭建出最基础的逻辑门，如与门（AND）、或门（OR）和非门（NOT）。 3. 复杂系统：通过组合这些基础逻辑门，玩家可以创造出更复杂的计算单元，例如加法器、存储器（内存），甚至是一个完整的中央处理器（CPU）。
从本质上讲，每一个在《我的世界》里搭建复杂红石电路的玩家，都在进行一场微型的数字计算实验。他们从最底层的0和1开始，一步步构建出能够执行复杂指令的运算系统。有了这个图灵完备的计算基础，搭建神经网络、GPU、甚至是模拟一个GPT，就只剩下时间、空间和毅力的问题了。

如何在像素世界“编译”一个GPT？

将一个在Python中训练好的模型“搬”进《我的世界》，是一个涉及软件工程、硬件设计和游戏创意的复杂过程。根据社区的分析，其大致流程可能如下：
  1. 模型训练与导出：首先，在现实世界的计算机上，使用Python和TinyChat数据集训练一个小型GPT模型。完成后，将模型的权重进行量化压缩（例如，压缩到8位整数），并导出权重和网络结构数据。
  1. 逻辑单元设计：将神经网络中的基本运算（如乘加运算）翻译成“红石语言”。这意味着需要设计出可复用的红石电路模块，比如一个“乘加单元”（MAC Tile），它能接收代表激活值和权重的红石信号，并输出计算结果。
  1. 自动化“编译器”：编写一个脚本或程序作为“编译器”。这个编译器读取导出的模型数据，并自动将其映射成《我的世界》中的红石模块布局，同时规划好信号传输的线路和时序控制。
  1. 批量建造：最后，利用WorldEdit、Litematica等游戏辅助工具，根据编译器生成的蓝图，在游戏中快速、批量地铺设数以百万计的方块，完成整个宏伟建筑的搭建。
通过这个流程，当玩家在游戏内的“终端”输入聊天信息时，信息被转换为红石信号，在庞大的电路网络中流动、计算，最终通过命令方块或显示屏生成模型的回复。

超越GPT：当《我的世界》成为创新的终极沙盒

sammyuri的GPT项目并非孤例，它只是《我的世界》玩家社区惊人创造力的冰山一角。多年来，无数玩家在这个平台上实现了令人难以置信的创举：
  • 卷积神经网络（CNN）：在游戏中构建CNN来识别手写数字，重现了AI领域的经典实验。
  • 功能完备的CPU：打造出能玩俄罗斯方块、贪吃蛇等经典游戏的处理器。
  • 游戏套娃：在《我的世界》里用红石电路模拟一台能玩《我的世界》的电脑。
  • 虚拟互联网：搭建能够在游戏内不同“计算机”之间收发信息的网络系统。
这些项目雄辩地证明，《我的世界》早已超越了“搭积木”的范畴，成为了一个孕育创新、实践计算机科学理论的终极数字沙盒。
当然，对于大多数人而言，亲手搭建一个GPT模型遥不可及。我们更关心的是如何便捷地体验到最前沿的AI技术。当你在寻找一个稳定、可靠的ChatGPT官方体验时，一个优质的ChatGPT镜像站就显得尤为重要。对于希望获得ChatGPT不降智的流畅体验的用户，可以访问 https://chat.aigc.bar，它提供了一个在国内直接访问和使用官方ChatGPT的便捷途径。

结论

从《我的世界》中的红石电路到功能齐全的ChatGPT，sammyuri的创作不仅是一次技术上的胜利，更是一场关于想象力和毅力的颂歌。它生动地展示了计算的普适原理，无论是在硅基芯片上，还是在虚拟的像素方块中，逻辑和智能都能以同样的方式涌现。
这个项目模糊了游戏与现实、娱乐与科研的界限。或许，在不远的未来，当GPT-5能够流畅地玩《我的世界》时，我们回望今天，会发现真正的颠覆性创新，早已在玩家们的手中悄然萌芽。那么，下一个在虚拟世界中诞生的奇迹，又会是什么呢？
Loading...

没有找到文章