无限参数大模型:从实时数据生成并适配权重
2026.09.18 · 观点 · 论文 · 论文预印本
新论文提出用超网络从实时交互生成权重,让模型在线学习。
arXiv 论文提出 Infinite-Parameter LLM,用紧凑超网络将运行时数据转为对共享基础网络的低秩调制,使前馈权重由实时数据生成而非固定存储。该方法通过贝叶斯信念在线更新潜在编码,有效权重可无限变化,同时存储占用固定,旨在超越上下文学习。
- 提出无限参数架构,权重由实时数据生成
- 贝叶斯在线更新,权重随会话演变
- 存储固定,有效权重无限
- 评估协议对比上下文学习与检索
为什么值得看
突破静态权重限制,探索模型从实时交互中持续学习。
适合谁关注
大模型研究者、AI 架构师、机器学习从业者