推理成本直降78%!aiXcoder开源aiXcompact-4B模型,接手Agent上下文压缩任务
2026.11.11 · 收录日 2026.11.11 · 模型 · 新模型 · 媒体报道
aiXcoder开源4B上下文压缩模型,单卡A100可私有化部署,接手编程Agent高频压缩任务。
孵化自北京大学软件工程研究所的aiXcoder开源上下文压缩专用模型aiXcompact-4B,面向编程Agent长程复杂研发任务,支持单张A100-40GB私有化部署。在Terminal-Bench上接入OpenCode测试,整体任务完成准确率相对DeepSeek-V4-Pro未下降,单次GPU推理成本直降78%,历史上下文平均压缩至原长度的25.89%。
- aiXcompact-4B为4B参数上下文压缩专用模型,支持单张A100-40GB显卡私有化部署,开源地址已公布。
- Terminal-Bench基准上接入OpenCode测试,整体任务完成准确率相对DeepSeek-V4-Pro未下降,私有化部署下单次GPU推理成本直降78%。
- API调用方式下,单次上下文压缩请求Token费用为0.019元,相对DeepSeek-V4-Pro、GLM-5.3和Qwen3.8-Max分别降低97.30%、97.08%和97.98%。
- 采用结构化判别机制,对历史轨迹生成保留关键原始信息、精简工具返回结果、删除失去参考价值记录三类决策,并生成结构化任务摘要。
- 训练采用教师大模型蒸馏、4B学生模型LoRA微调与结构化压缩决策结合,数据全部来自真实研发场景Agent运行轨迹。
为什么值得看
看清Agent上下文压缩这一高频环节如何用小模型降本。
适合谁关注
AI编程工具开发者、Agent工程与算力成本负责人。
