2026年9月本地AI模型盘点：从27B推理压缩到手机级LLM
2026.10.02 · 产品 · 新模型 · 社区热议
Reddit汇总9月本地AI新模型，涵盖推理、多模态、量化压缩与端侧部署
Reddit用户汇总2026年9月本地AI领域的新模型与工具，包括可自我改进的MiMo-V2.6-Pro-RL、把高保真推理压进12.3GB文件的OrcaSAQ2 27B，以及用三元量化把27B推理塞进5.9GB的Ternary-Bonsai-2-27B。多模态方面有同时处理文本、图像、音频和视频的Jev-Omni，端侧则有内存占用低于3GiB的…
- MiMo-V2.6-Pro-RL：跨数据类型自我改进的强化学习模型
- OrcaSAQ2 27B：高保真推理压缩进12.3GB文件
- Ternary-Bonsai-2-27B：三元量化把27B推理压到5.9GB
- Edge0-35B-A3B-preview：手机级LLM，内存低于3GiB
- Jev-Omni：同时基于文本、图像、音频、视频做决策
为什么值得看
一次看清9月本地AI在压缩、多模态和端侧的最新进展
适合谁关注
关注本地部署、量化压缩和端侧模型的开发者