术业有专攻——AI系统主控CPU英特尔至强6新品处理器浅析

2025-06-20 10:29:49     来源:

一、至强6NVIDIA GPU 协同的硬件基础

在 AI 异构计算架构中,英特尔至强6处理器作为主控CPU可以与NVIDIA最新GPU 很好地协同。根据英伟达官网信息,目前其DGX B300系统选择至强6776P作为唯一主控CPU,采用双路配置,通过UPI总线实现CPU间互连。这8个GPU通过NVLink高速互连,是性能比较高端的DGX,为训练等应用而设计。

作为主控CPU,它和GPU协同工作,而这个系统的性能受到诸多因素的影响,这里列出的是最主要的因素,包括I/O、核心性能、内存(包括带宽和容量)、CPU上的预处理或卸载(offload)能力、整体CPU系统的RAS,以及各种硬件的外形设计等。这些都会影响整个AI系统的端到端性能,因此AI系统通常比较复杂。

这一设计的性能提升要点在于:

1.业界领先的I/O通道和内存能力

AP平台的双路至强6最多可以提供192条PCIe 5.0通道,也就是可以每路提供96条通道,相比上一代提升20%,内存通道也可以高达12个。直接匹配多GPU的高速接入需求,避免因通道不足导致的带宽瓶颈。

在SP平台上,英特尔还提供了一个差异化的产品,就是在单个CPU插槽上提供了更丰富的I/O资源(Rich I/O one socket),总共有136根的PCIe通道,持单插槽连接多块加速卡与存储设备,适用于边缘端“预处理+推理”一体化场景。同时,其高带宽内存可容纳更大模型参数,提升训练效率。在推理场景中,灵活的核心配置确保资源高效利用,满足多样化需求。

2.核心性能优化

至强6区别于上一代产品的关键技术突破是Priority Core Turbo(PCT),其技术本质是通过 Speed Select(SST)将单路CPU核心划分为两组:最多8个高频核心(PCT 核心)与剩余低频核心。在DGX B300场景中,这一技术直接服务于 “CPU 驱动 GPU” 的典型需求,实现高频核心的精准调度:当 GPU 需要快速获取预处理数据(如从内存读取原始数据并完成清洗、特征工程)时,8个PCT核心可睿频至4.6GHz(传统64核SKU最大睿频为3.9GHz),相比全核睿频(3.6GHz)提升28%。这一特性缩短了数据从CPU到GPU的传输延迟。

3.资源分配的灵活性

PCT核心数量可通过BIOS或 SST-TF工具动态配置,客户可根据实际负载调整——客户在使用时可以根据需要选择8个、6个、4个或2个PCT核心。例如推理场景中若仅需4块GPU工作,可配置4个PCT 核心对应驱动,避免资源浪费。与上一代 Max Turbo 技术的差异在于:PCT允许全核在线(无需半数核心休眠),且维持相同 TDP(350W)与散热设计,确保硬件兼容性,降低客户部署成本。

4.更强的内存架构兼容性

更高的内存带宽对于AI工作负载至关重要,因为AI的工作流程是一个完整的数据处理管道,而非单一环节。在这一过程中,CPU首先负责预处理,从内存中读取数据并进行初步处理,随后将数据传输至GPU。比如,至强6支持8通道到12通道的DDR5-6400内存,还支持MRDIMMs,能提供更高的30%带宽。

在LLM的生成式推理(如文本续写)中,自注意力机制需为每个已处理的Token生成并存储键(Key)和值(Value)矩阵,即KV Cache。KV Cache避免了在解码阶段重复计算历史Token的注意力状态,但会随序列长度线性增长,占用大量GPU显存,需要卸载到下一级存储中。对于CXL内存来说,有一个典型用例是KV Cache的卸载,通过用CXL内存去替代SSD,这样KV Cache的访问速度显著增快,从而提升了性能。

5.RAS和数据预处理

在企业级 AI 训练场景中,系统可靠性直接影响算力利用率与TCO。至强6的RAS 体系覆盖全硬件链路,可以通过RAS特性来可以提高I/O的稳定性、内存系统稳定性、UPI链路稳定性、CPU及平台稳定性。CPU卸载则是针对MoE(混合专家)模型的另一种优化方式。目前市场上已有诸多关于通过AMX矩阵技术将部分MoE模型中的专家层卸载至至强处理器的案例。

二、为何是至强6776P

NVIDIA DGX B300选择的双路至强 6776P 的核心价值在于业界领先的I/O能力、领先的内存带宽、大内存容量、领先的RAS能力已经为特定AI负载优化的PCT产品。

其4.6GHz的睿频能力显著加速数据处理,PCT核心以4.6GHz频率加速数据预处理(如文本分词、图像解码),通过高速 PCIe 通道将数据传输至GPU,形成 “CPU 预处理→GPU 计算”的流水线作业。这款处理器拥有单路88条PCIe通道,双路则达到176条。

英伟达选择了2 DPC架构(每颗CPU提供8通道内存,每通道2个DIMM)进行配置,双路系统可搭载32根DIMM,内存最大容量达8TB。

综述:开放生态的实际意义

至强6的核心优势在于开放性与兼容性。客户硬件选择自由,可以根据成本动态切换,避免被单一供应商锁定。在软件生态兼容层面,至强6也完全支持主流 AI 框架(如 TensorFlow、PyTorch)与云原生技术,无需重新开发适配层,降低技术迁移成本。

从英伟达的选择逻辑看,DGX B300 采用至强6应该并非单一性能导向,而是综合考量了生态开放性、成本可控性与技术成熟度 —— 至强 6 作为量产级产品,其稳定性与供应链可靠性已通过大规模数据中心验证。

至强6在搭配NVIDIA GPU场景中的价值,本质上源于其对“CPU 角色”的清晰定位:核心数量或睿频频率,都是围绕 GPU 协同需求而定,根据用户的不同需求,也可以选择不同的CPU型号。在关键路径(如高频数据传输、大内存容量、系统稳定性)上,至强6可以实现精准优化。对于企业客户而言,这意味着在 AI 基础设施建设中,可通过标准化硬件获取可预期的性能提升,同时避免为冗余功能支付额外成本。这种 “需求导向型” 技术路线,或许正是其成为英伟达首选主控 CPU 的核心原因。
(来源:微型计算机)

 

标签:

猜你喜欢

PUYI CURATION featuring LINDA FARROW 眼镜时尚之旅 全新启程
GLP-1类药物全球风潮:食品饮料行业面临结构性变革与创新机遇
8000P算力与空间赋能,这座园区打造通用人工智能(AGI)策源地
咖啡文化热盛行:咖博士如何以高端“平权”激活家用咖啡市场?
安盟保险助力中法农业合作 共创可持续发展新篇
共创未来:中法农业合作在辽宁省职业教育领域的新机遇
​消费帮扶再升级!华润万家选品会推动“土特产”变“名优品”
2025北京高考复读要求!学历、学籍、录取限制全盘点
BLG挺进MSI,助力战马打造"冠军杯"点燃电竞新章!
WEB3高资产如何在香港安全合规研讨会(香港站)成功举办!
激活“爸张力”消费:抖音商城以“炫父”解锁父亲节营销新范式
耳鼻咽喉体检,扬州丁义山中西医医院专业!
耳鼻咽喉体检,扬州丁义山中西医医院专业!
百雀羚×亚什兰:深度战略合作 革新美妆科研未来
天津和平九洲医院怎么样?凭借专业实力,护航男性健康
淳茶舍「斗」茶大会杭州站官宣!迪丽热巴邀你共品回甘好味道
政策东风劲吹,“农业行僧”高校团队以无人机授粉技术领航智慧农业新征程
东莞康兴医院怎样?患者至上,东莞康兴医院的信任之路
酷骑全球首发智能公路自行车:COOGHI OS重新定义骑行未来
东莞康兴医院怎么样?秉持医者仁心,助力男性重拾健康与自信
平安产险天津分公司:开展安全生产月守护者行动
京东七鲜618“击穿价”商品销售亮眼 全周期增长接近200%
决胜志愿填报!今世缘酒业邀专家免费支招
2025卫生高级职称倒计时!考试宝典高级私教班,助你高效突围!
智云健康“智能问诊系统”蝉联“年度优秀软件产品”殊荣!
石家庄蓝天中医院男科:医路暖心,守护健康
赤峰新城热电公司“四维发力”推动安全生产月活动走深走实
安阳市生态环境局滑县分局开展在用油品抽测工作 助力大气污染防治
安阳市生态环境局滑县分局开展企业在线监控设施帮扶指导
加减有道,成长无忧!一轻二简低敏零辅食构建敏宝双系喂养新范式