MicroLLM Lab:在浏览器里实测 7 个微型大模型的速度与准确率
2026.09.29 · 产品 · 开源项目 · 社区热议
一个网页工具让你在本地浏览器跑 7 个小模型,用客观测试测速度和准确率。
MicroLLM Lab 是一个在浏览器中运行的微型大模型测试工具,可加载并运行 7 个小模型。它用正则和精确 token 等客观检查衡量准确率,并记录峰值速度、持续解码速度(256 token)和套件总耗时,所有数据都留在本机。工具还支持生成可验证的性能证书并分享到 X 和 LinkedIn。
- 支持在浏览器中加载并运行 7 个微型大模型
- 准确率用正则/精确 token 等客观检查衡量
- 速度指标含峰值、256 token 持续解码和套件总耗时
- 所有测试数据保留在本机,不上传
- 可生成含硬件信息的可验证性能证书并分享
为什么值得看
想低成本了解小模型真实速度与准确率的人可以亲手实测。
适合谁关注
关注小模型、端侧推理和本地评测的开发者与爱好者。