清华提出Jev-LDE:ICL示例只改一次,1-shot平均准确率就能暴涨

2026.10.14 · 事件 · 论文 · 论文预印本

清华提出局部示例编辑方法,用1.7B小模型对检索出的示例做一次增删替换。

清华大学自动化系研究者提出 Local Demonstration Editing(LDE),并训练小型编辑模型 Jev-LDE,在目标 LLM 推理前对已检索出的 demonstration set 做一次 Keep、Delete 或 Replace 编辑。实验中它在 48 个分类配置中 46 个优于 Semantic TopK 初始化,跨 3 个分类数据集、4 个目标 LLM 的平均 one-shot…

  • Jev-LDE 只做一次局部编辑,动作限于 Keep、Delete…
  • 48 个分类配置中 46 个优于 Semantic TopK 初始化结果
  • 44 个配置取得最好或并列最好准确率
  • 平均 one-shot accuracy 从 81.2% 提升到 88.1%
  • 训练仅用 Llama-3-8B 反馈,策略可迁移到其他目标模型

为什么值得看

用极小编辑成本换取 ICL 准确率明显提升,思路轻量可复用。

适合谁关注

关注大模型上下文学习、提示工程与示例检索的研究者和工程师。

原始来源