2025 年 3 月,主控至强助力英伟达发布了 DGX B300 AI 加快核算渠道 。手英2025 年 5 月,特尔体系英特尔发布了三款全新英特尔至强 6 功用核处理器 ,高效工作其间一款 6776P 被用作是主控至强助力 DGX B300 的主控 CPU,这款处理器终究有什么特别之处呢  ?手英

AI 加快体系为何垂青 CPU 主控才能 ?

作为造价极高的 AI 加快体系,DGX B300 能够不计成本地选任何 CPU ,特尔体系只需它能充沛的高效工作发挥整套体系的功用 。挑选英特尔至强 6 作为默许引荐的主控至强助力 CPU 装备,这意味着它能很好地满意需求 ,手英也意味许多 AI 加快体系会搭载这款英特尔处理器。特尔体系

在 AI 服务器中,高效工作CPU 其实很重要 ,主控至强助力它不只要运转操作体系 ,手英还要担任和谐 GPU 的特尔体系作业 、办理体系资源,支撑整个 AI 体系安稳运转。此前 ,来自 IDC 的数据显现 ,有 73% 的 GPU 加快服务器都在运用英特尔至强处理器作为主控 CPU 。

从技能细节看 ,主控 CPU 需要和 GPU 协同作业 。因而 ,CPU 在 I/O、中心功用 、内存(容量和带宽)、CPU 上的预处理或卸载(offload)才能、RAS 特性 ,以及关于多种形状的 AI 服务器架构的支撑 ,都会影响整个 AI 体系的功用 。

英特尔至强 6:抱负主控 CPU 的优势解析 。

首要,咱们从产品视点来扼要介绍一下,为什么英伟达会挑选英特尔至强 6 处理器作为引荐装备 ?

首要 ,在 I/O 部分 ,英特尔至强 6 功用核处理器最多支撑 96 个 PCIe 5.0 通道,相较于第五代至强可扩展处理器增加了 20% 。像 DGX B300 这种双路服务器体系,PCIe 总数能来到 192 个 。

在 CPU 中心部分,英特尔至强 6 支撑最多 128 个功用中心,相较于上代直接翻倍 。均匀单核功用进步 20% ,均匀每瓦功用进步高达 1.6 倍,平等功用水平下均匀能够节约 30% 的 TCO。而且还具有杰出的单线程才能。

在内存部分 ,英特尔至强 6 支撑 DDR5-6400MT/s、最高达 8800MT/s 的 MRDIMM 内存以及 CXL 技能,可供给更大内存带宽和更大内存容量。其间 ,英特尔至强 6 功用核还将内存通道数从 8 个进步到了 12 个,全体内存带宽和内存容量都有了大幅进步。

英特尔至强 6 能够更好地支撑在 CPU 上做预处理和卸载,这一部分会用到高档矩阵扩展(AMX)  。由于现在的 MoE 模型越来越多,在 CPU 上做一些卸载作业现在变成了很热门的论题 ,英特尔和许多合作伙伴也在进行积极探索 。

英特尔至强 6 支撑专门的 RAS(Reliability, Availability, Serviceability)功用  ,它能够削减体系宕机时刻 。这次英伟达的 DGX B300 选用的是双路服务器,丰厚的 RAS 特性支撑能够明显削减宕机时刻 ,进步体系资源的利用率 。

因而 ,不管是英伟达的 DGX(英伟达的一体化渠道) 、MGX(英伟达敞开给合作伙伴的模块化服务器设计规范),仍是 DC-MHS 全球规范(英特尔牵头的模块化规范架构) ,英特尔至强 6 都能够灵敏支撑。

2025 年 5 月下旬 ,英特尔发布了三款新的功用核处理器 ,分别是 6962P 、6776P 以及 6774P。其间,6776P 被用作英伟达的 DGX B300 体系的主控 CPU ,为什么要挑选这款处理器呢 ?

为什么选英特尔至强 6776P 做 DGX B300 的主控 CPU?

此前 ,引荐作为英伟达 DGX 主控的 CPU 类型是 6767P,这是一个 64 核的处理器,它的根底频率是 2.4GHz ,全核睿频是 3.6GHz ,最大睿频来到了 3.9GHz  。

6776P 也是一块 64 核的处理器,根底频率是 2.3GHz ,全核睿频是 3.6GHz,最大睿频是 3.9GHz 。得益于英特尔立异的 PCT 技能 ,最高主频进步到了 4.6GHz,更高的主频能够让数据更快传递到 GPU,然后进步 GPU 在高强度作业负载下的功用 。

PCT 指的是英特尔 Priority Core Turbo 技能 ,它让部分中心成为高优先级的中心  ,相应的 ,其他的中心便是低优先级 。调配英特尔 Speed Select 睿频频率(Intel SST-TF)技能 ,让高优先级的中心以更高的主频作业。

英特尔官方用这种方法把少量中心拉到更高频率,意味着用户能够不必额定考虑散热等问题,还能确保能够长时刻安稳运转 。

英特尔此次发布的 3 款支撑 PCT 的至强处理器傍边 ,6774P 是单路 CPU ,6776P 和 6962P 是双路 CPU 。为了取得更高的 4.6GHz PCT 频率  ,又由于要支撑双路服务器,所以要选 6776P。

双路的 DGX B300 能够供给 176 条 Gen 5.0 通道 。内存部分  ,在 DGX B300 体系中 ,它只支撑 8 个内存通道 ,为了寻求更大容量,这儿选用了 2 DPC 的设置 ,每个通道装备 2 个 DIMM,双路理论最高容量为 8TB,能够更好地应对未来更大数据规划。

上方在 AI 体系中运用至强 6 为主控 CPU 的暗示图中,有两块 CPU 带着 8 块 GPU ,8 块 GPU 之间经过 NVLink 互连 ,两块 CPU 之间经过 UPI 互连。

6776P 最多支撑 8 个 PCT 中心 ,也便是让 8 个中心运转在高频率,用户能够依据需求挑选 8 个 、6 个、4 个或 2 个。

PCT 中心的设置也比较简单 ,一种是在 BIOS 里进行设置 ,把必定数量的中心设定为 PCT 高中心 。别的一种是经过 SST 的 TF 东西进行设置,在体系运转时能够动态装备调整 ,这种方法更快捷。

从英特尔专家的介绍中了解到 ,这三款处理器都是英特尔至强惯例产品道路图中的一部分,三款产品都是能够面向一切客户敞开的规范产品,而不是为特定用户特定场景定制的特别计划 。

关于挑选 DGX B300 的用户来说 ,6776P 已是默许选项。如果是 MGX 用户 ,则能够运用此前已发布的 6767P 。理论上,英特尔至强 6 的一切类型都支撑作为 AI 加快核算体系的主控 CPU  ,用户在选用时能够依据实践需求作出挑选。

广告声明:文内含有的对外跳转链接(包括不限于超链接  、二维码 、口令等方式),用于传递更多信息 ,节约甄选时刻,成果仅供参考,一切文章均包括本声明。

发表评论

<#longshao:bianliang3#>