清华提出Jev-LDE:ICL示例只改一次,1-shot平均准确率就能暴涨
2026.10.14 · 事件 · 论文 · 论文预印本
清华提出局部示例编辑方法,用1.7B小模型对检索出的示例做一次增删替换。
清华大学自动化系研究者提出 Local Demonstration Editing(LDE),并训练小型编辑模型 Jev-LDE,在目标 LLM 推理前对已检索出的 demonstration set 做一次 Keep、Delete 或 Replace 编辑。实验中它在 48 个分类配置中 46 个优于 Semantic TopK 初始化,跨 3 个分类数据集、4 个目标 LLM 的平均 one-shot…
- Jev-LDE 只做一次局部编辑,动作限于 Keep、Delete…
- 48 个分类配置中 46 个优于 Semantic TopK 初始化结果
- 44 个配置取得最好或并列最好准确率
- 平均 one-shot accuracy 从 81.2% 提升到 88.1%
- 训练仅用 Llama-3-8B 反馈,策略可迁移到其他目标模型
为什么值得看
用极小编辑成本换取 ICL 准确率明显提升,思路轻量可复用。
适合谁关注
关注大模型上下文学习、提示工程与示例检索的研究者和工程师。