TERMy:不依赖 LLM 的快速终端助手,开发者自述开发历程

2026.09.05 · 产品 · 开源项目 · 本人发布

开发者因 AI 费用高企,自研无 LLM 终端助手 TERMy,并公开数据集格式。

开发者 gioblu 因 AI 价格飙升和补贴结束,尝试从零构建终端助手。他先尝试训练 Transformer 模型,但受限于硬件(GTX 1050 Ti 4GB)效果不佳,转而使用 ollama 等本地模型仍不够快。最终他决定采用确定性方法,开发了不依赖嵌入、机器学习和 LLM 的 TERMy,并设计了 NDF 0.0 数据集格式。

  • 因 AI 涨价,自研终端助手
  • 训练 Transformer 效果差
  • 本地模型响应慢
  • 转向确定性方法
  • 设计 NDF 0.0 数据集格式

为什么值得看

展示在资源受限下,不依赖 LLM 的终端助手可行性。

适合谁关注

对终端效率工具和轻量 AI 替代方案感兴趣的开发者。

原始来源