2025 年 3 月,主控至强助力英伟达发布了 DGX B300 AI 加快核算渠道 。手英2025 年 5 月,特尔体系英特尔发布了三款全新英特尔至强 6 功用核处理器,高效工作其间一款 6776P 被用作是主控至强助力 DGX B300 的主控 CPU,这款处理器终究有什么特别之处呢 ?手英
AI 加快体系为何垂青 CPU 主控才能?
作为造价极高的 AI 加快体系,DGX B300 能够不计成本地选任何 CPU ,特尔体系只需它能充沛的高效工作发挥整套体系的功用 。挑选英特尔至强 6 作为默许引荐的主控至强助力 CPU 装备,这意味着它能很好地满意需求 ,手英也意味许多 AI 加快体系会搭载这款英特尔处理器。特尔体系
在 AI 服务器中,高效工作CPU 其实很重要 ,主控至强助力它不只要运转操作体系,手英还要担任和谐 GPU 的特尔体系作业、办理体系资源,支撑整个 AI 体系安稳运转。此前 ,来自 IDC 的数据显现,有 73% 的 GPU 加快服务器都在运用英特尔至强处理器作为主控 CPU 。
从技能细节看 ,主控 CPU 需要和 GPU 协同作业 。因而 ,CPU 在 I/O 、中心功用 、内存(容量和带宽) 、CPU 上的预处理或卸载(offload)才能、RAS 特性 ,以及关于多种形状的 AI 服务器架构的支撑 ,都会影响整个 AI 体系的功用 。
英特尔至强 6 :抱负主控 CPU 的优势解析 。
首要,咱们从产品视点来扼要介绍一下,为什么英伟达会挑选英特尔至强 6 处理器作为引荐装备?
首要,在 I/O 部分 ,英特尔至强 6 功用核处理器最多支撑 96 个 PCIe 5.0 通道,相较于第五代至强可扩展处理器增加了 20% 。像 DGX B300 这种双路服务器体系 ,PCIe 总数能来到 192 个。
在 CPU 中心部分,英特尔至强 6 支撑最多 128 个功用中心,相较于上代直接翻倍 。均匀单核功用进步 20% ,均匀每瓦功用进步高达 1.6 倍 ,平等功用水平下均匀能够节约 30% 的 TCO。而且还具有杰出的单线程才能 。
在内存部分,英特尔至强 6 支撑 DDR5-6400MT/s、最高达 8800MT/s 的 MRDIMM 内存以及 CXL 技能,可供给更大内存带宽和更大内存容量。其间,英特尔至强 6 功用核还将内存通道数从 8 个进步到了 12 个,全体内存带宽和内存容量都有了大幅进步 。
英特尔至强 6 能够更好地支撑在 CPU 上做预处理和卸载,这一部分会用到高档矩阵扩展(AMX) 。由于现在的 MoE 模型越来越多