推理成本直降78%!aiXcoder开源aiXcompact-4B模型,接手Agent上下文压缩任务

2026.11.11 · 收录日 2026.11.11 · 模型 · 新模型 · 媒体报道

aiXcoder开源4B上下文压缩模型,单卡A100可私有化部署,接手编程Agent高频压缩任务。

孵化自北京大学软件工程研究所的aiXcoder开源上下文压缩专用模型aiXcompact-4B,面向编程Agent长程复杂研发任务,支持单张A100-40GB私有化部署。在Terminal-Bench上接入OpenCode测试,整体任务完成准确率相对DeepSeek-V4-Pro未下降,单次GPU推理成本直降78%,历史上下文平均压缩至原长度的25.89%。

  • aiXcompact-4B为4B参数上下文压缩专用模型,支持单张A100-40GB显卡私有化部署,开源地址已公布。
  • Terminal-Bench基准上接入OpenCode测试,整体任务完成准确率相对DeepSeek-V4-Pro未下降,私有化部署下单次GPU推理成本直降78%。
  • API调用方式下,单次上下文压缩请求Token费用为0.019元,相对DeepSeek-V4-Pro、GLM-5.3和Qwen3.8-Max分别降低97.30%、97.08%和97.98%。
  • 采用结构化判别机制,对历史轨迹生成保留关键原始信息、精简工具返回结果、删除失去参考价值记录三类决策,并生成结构化任务摘要。
  • 训练采用教师大模型蒸馏、4B学生模型LoRA微调与结构化压缩决策结合,数据全部来自真实研发场景Agent运行轨迹。

为什么值得看

看清Agent上下文压缩这一高频环节如何用小模型降本。

适合谁关注

AI编程工具开发者、Agent工程与算力成本负责人。

原始来源

查看收录日 2026.11.11 全部卡片 · 全部卡片归档