无限参数大模型:从实时数据生成并适配权重

2026.09.18 · 观点 · 论文 · 论文预印本

新论文提出用超网络从实时交互生成权重,让模型在线学习。

arXiv 论文提出 Infinite-Parameter LLM,用紧凑超网络将运行时数据转为对共享基础网络的低秩调制,使前馈权重由实时数据生成而非固定存储。该方法通过贝叶斯信念在线更新潜在编码,有效权重可无限变化,同时存储占用固定,旨在超越上下文学习。

  • 提出无限参数架构,权重由实时数据生成
  • 贝叶斯在线更新,权重随会话演变
  • 存储固定,有效权重无限
  • 评估协议对比上下文学习与检索

为什么值得看

突破静态权重限制,探索模型从实时交互中持续学习。

适合谁关注

大模型研究者、AI 架构师、机器学习从业者

原始来源