Claude 为 DOS 写并训练了一个能装进软盘的 367K 参数语言模型
2026.11.15 · 收录日 2026.11.15 · 模型 · 开源项目 · 社区热议
一个 367K 参数的小模型跑在 Intel Pentium 上,程序加权重约 435 KB,可放进软盘。
作者让 Fable 5.2 自己写了一个 transformer,由 Opus 5.5 生成约 3500 条事实及闲聊、数学的训练数据。模型有 367K 参数,权重以 8bit 整数存储、每行一个 scale,程序加权重约 435 KB,能装进 DOS 内存和软盘,在 Intel Pentium 上运行。它逐字母读写,对见过的事实和词表现不错,但复杂或过长的问题会输出完全无意义的内容。
- Fable 5.2 自己写了一个 transformer,Opus 5.5 生成训练数据
- 训练数据约 3500 条事实,外加闲聊和数学,每条以不同方式问答
- 模型 367K 参数,权重为 8bit 整数、每行一个 scale
- 程序加权重约 435 KB,可放进 DOS 内存和软盘,在 Intel Pentium 上运行
- 逐字母读写,对见过的事实和词表现不错,复杂或过长问题会输出无意义内容
为什么值得看
看一个 435 KB 的模型如何塞进软盘并跑在 DOS 上。
适合谁关注
对端侧小模型、复古计算和模型压缩感兴趣的读者。
