Show HN: Needle2，面向手机、穿戴设备、智能家居与机器人的 14MB 智能 LLM
2026.08.11 · 产品 · 开源项目 · 社区热议
开源 14MB 智能端侧大模型 Needle2，专注低功耗设备上的工具调用与结构化提取。
开发者在 HN 推出 Needle2，这是一个仅 14MB 的开源端侧大模型，专为手机、树莓派、智能家居和小型机器人等低功耗设备打造。该模型拥有 4500万参数，在树莓派5上预填充超 800 tokens/s，无需 GPU 或 NPU 即可高效处理工具调用、设备控制与结构化数据提取。
- 模型体积仅 14MB，运行时内存 28MB
- 专为无 GPU/NPU 的百元级边缘设备设计
- 专注工具调用、设备控制与结构化提取
- 树莓派5上预填充超 800 tok/s，解码超 500 tok/s
为什么值得看
将高性能端侧 AI 推进至百元级低功耗硬件，极具实用价值。
适合谁关注
嵌入式开发、边缘计算、AI 终端及开源硬件开发者。