Microsoft首次推出用于AI和云的定制芯片:128 核ARM Cobalt 100和5纳米Maia 100

关于Microsoft计划采取定制硅路线的猜测已经盛行了很长一段时间。Microsoft一直在使用基于高通的处理器,如SQ1、SQ2和SQ3(Snapdragon 8cx Gen 3)作为其Surface系列。然而,早在 2020 年,关于该公司正在考虑自己的内部 ARM 服务器设计的报道就开始出现。

在正在进行的Microsoft Ignite大会上,该公司推出了两个定制硅IP,旨在满足其雄心勃勃的AI计划——Azure Maia 100 AI加速器和Azure Cobalt 100定制CPU。Microsoft将于明年初首先将这些芯片部署到自己的数据中心,这些数据中心为Copilot和Azure OpenAI服务提供支持。

不过,Microsoft并没有透露太多关于芯片本身的技术信息。然而,它确实注意到,Maia 100 是一款 5 纳米芯片,具有 1050 亿个晶体管,使其成为采用该工艺制造的最大此类芯片之一。Maia 100 将为 OpenAI 模型和 ChatGPT 运行基于云的训练和推理,专为训练 OpenAI 的大型语言模型而设计。

Maia 100将采用全液冷,Microsoft甚至设计了带有液冷散热器“侧伙伴”的定制机架来容纳这些芯片。

另一方面,Cobalt 100 是一个 64 位 128 核 CPU,专为 Microsoft 云中的一般工作负载而设计,包括 Teams 和 SQL。Microsoft表示,Cobalt 100 比当前的 Azure ARM 芯片强大 40%。

除了Maia 100和Cobalt 100之外,Microsoft还宣布了Azure NC H100 v5虚拟机(VM)的公共预览版,用于运行AI和高性能计算(HPC)工作负载。这些 VM 基于 Nvidia Hopper H100 GPU 和 AMD EPYC Genoa 处理器。

客户可以从两种 NC H100 v5 配置中进行选择:

40 个 vCPU、320 GB RAM、1 个 H100 GPU(带 94 GB HBM3)和 40 GBps Azure 网络带宽

80 个 vCPU、640 GB RAM、2 个 H100 GPU(188 GB HBM3)和 80 GBps Azure 网络带宽

不过,Microsoft并没有遗漏AMD。这家雷德蒙德巨头还宣布,它现在提供采用 AMD 最新 Instinct MI300X GPU 的虚拟机,每个虚拟机配备 1.5 TB HBM3。ND MI300X v5 VM 利用 8 个 MI300X 卡,这些卡通过 Infinity Fabric 3.0 互连,每个 GPU 具有 192 GB 的 HBM3 内存,运行速度为 5.2 TB/s。根据Microsoft的说法,ND MI300X v5 VM的规格包括:

每个 GPU 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand,每个 VM 3.2 Tb/s

第 4 代英特尔至强可扩展处理器

PCIE Gen5 主机到 GPU 互连,每个 GPU 带宽为 64 GB/s

16 通道 DDR5 DIMM

Microsoft的定制芯片目前面向服务器端。目前尚不清楚该公司是否会将Cobalt 100的某些变体引入其Surface产品线,或者继续依赖高通,可能还有联发科的产品 - 考虑到Snapdragon X Elite发布令人印象深刻的早期数字,这不一定是一个坏主意。

  

来源:IT时代网

IT时代网(关注微信公众号ITtime2000,定时推送,互动有福利惊喜)所有原创文章版权所有,未经授权,转载必究。
创客100创投基金成立于2015年,直通硅谷,专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。

相关文章
Microsoft首次推出用于AI和云的定制芯片:128 核ARM Cobalt 100和5纳米Maia 100

精彩评论