AWS Trainium 模型支持查询工具上线:一键查模型能否直接跑
2026.10.23 · 产品 · 开源项目 · 官方发布
HuggingFace 上线查询 Space,可查热门模型能否在 AWS Trainium 上免改运行
HuggingFace 发布 torch-neuronx 模型支持查询 Space,基于公开数据集展示热门模型能否在 AWS Trainium 上免改运行。每条记录给出分片核心数、运行墙钟时间和峰值显存,并提供可复现的 run.py 脚本。测试目前仅覆盖文本生成与图文模型,最多 4 张 Trainium2 设备、16 个核心。
- Space 按精选、趋势、下载量三种视图查询模型支持情况
- 每条结果含分片核心数、运行墙钟时间与峰值显存
- 提供 run.py 脚本及 Neuron 栈、依赖包安装说明
- 结果来自公开数据集,每个编译器与库版本对应一个 Parquet 文件
- 测试仅覆盖文本生成与图文模型,最多 16 个核心
为什么值得看
想用 Trainium 跑模型的开发者可先查兼容性再动手
适合谁关注
使用 AWS Trainium 部署模型的开发者与研究者