大模型没有独门秘笈:腾讯混元4如何靠开源生态与顶尖人才实现逆袭?
2026.09.01 · 事件 · 行业动态 · 媒体报道
腾讯混元4发布,770B参数,靠开源技术与人才流动实现快速追赶。
腾讯在四个月内重组混元部门,推出770B参数、支持百万上下文的混元4。其技术配置大量借鉴开源成果,如DeepSeek的稀疏注意力机制和智谱的跨层索引复用,并吸纳了智谱GLM-5架构负责人白雨石等顶尖人才。这显示大模型技术壁垒正被开源生态与人才流动填平。
- 混元4参数规模770B,支持百万上下文
- 借鉴DeepSeek稀疏注意力机制和智谱IndexCache
- 采用恒等超连接(iHC)方案优化残差侧
- 智谱GLM-5架构负责人白雨石加入腾讯混元团队
- 开源生态与人才流动正填平大模型护城河
为什么值得看
揭示大模型竞争从技术秘密转向开源与人才整合。
适合谁关注
关注大模型技术演进与行业竞争的从业者。