英特尔面向四至六代至强处理器推出推理微服务：自动检测硬件并配置 vLLM 参数
2026.10.14 · 产品 · 产品发布 · 媒体报道
英特尔推出容器化推理微服务，启动时自动识别至强型号并套用已验证的 vLLM 调优参数。
英特尔宣布推出 Intel Inference Microservices，以容器形式通过 OpenAI 兼容 API 提供单模型推理服务，启动时自动检测处理器代数、核心数、NUMA 节点和内置加速器，并应用预先验证的配置参数。首批版本基于 vLLM 引擎、支持 BF16 精度，要求第四至第六代至强处理器、建议 32GB 内存，可在 Docker 或 Kubernetes 1.24 及以上运行。
- 容器启动自动检测至强代数、核心数、NUMA 与加速器
- 首批基于 vLLM，支持 BF16，需 Docker 或 K8s 1.24+
- 硬件要求四至六代至强，建议 32GB 内存
- 主机未识别时专用镜像报错，基础镜像启用配置回退
- 后续将扩展至英特尔 GPU 并增加 Helm Chart 等
为什么值得看
企业可在现有至强服务器上省去数天手动调优，直接跑起调优后的大模型推理。
适合谁关注
使用至强服务器部署大模型推理的企业运维与 AI 基础设施团队。