千家信息网

英特尔介绍新 AI 超算:配 4000 片 Gaudi 2 AI 加速器和第 5 代至强处理器

发表于:2024-11-24 作者:千家信息网编辑
千家信息网最后更新 2024年11月24日,CTOnews.com 9 月 20 日消息,英特尔在 2023 年 On 技术创新大会上,宣布将为 Stability AI 公司研发全新一代的 AI 超算,配有 4000 片 Gaudi 2 AI
千家信息网最后更新 2024年11月24日英特尔介绍新 AI 超算:配 4000 片 Gaudi 2 AI 加速器和第 5 代至强处理器

CTOnews.com 9 月 20 日消息,英特尔在 2023 年 On 技术创新大会上,宣布将为 Stability AI 公司研发全新一代的 AI 超算,配有 4000 片 Gaudi 2 AI 加速器以及英特尔第五代至强处理器,从而满足未来的 AI 场景需求。

微软在新闻稿中并未披露该 AI 超算的算力,在官方宣传中仅表示在上线之后会位列前 15 名。

英特尔已经设法缩小了 Gaudi AI 加速器与 NVIDIA H100 等竞争对手之间的差距,尽管无法提供和 Hopper GPU 相同的性能潜力,但至少提供了更好的 TCO。

英特尔在今年 7 月召开的活动中,正式推出第二代 Gaudi 深度学习加速器 --Habana® Gaudi®2,主要应用于加速 AI 训练及推理。CTOnews.com汇总该款处理器参数信息:

24 个可编程 Tensor 处理器核心(TPCs)

21 个 100Gbps(RoCEv2)以太网接口

96GB HBM2E 内存容量

2.4TB / 秒的总内存带宽

48MB 片上 SRAM

集成多媒体处理引擎

英特尔目前已经着手开发 Gaudi 3,采用 5nm 工艺节点,提高 4 倍 BFloat16 能力、2 倍计算能力、1.5 倍网络带宽和 1.5 倍 HMB 能力(提高到 144 GB)。

0