微软 Ignite 2024 大会推出 Azure Boost DPU,性能提升四倍

   日期:2024-11-21     来源:网络整理    作者:二手钢材网    浏览:348    评论:0    
核心提示:13亿收购整合近两年后,微软推出首款DPU芯片的功能;而谷歌则与英特尔合作开发可执行许多与DPU相同功能的芯片。直接对标英伟达DPU,并且加上微软定制CPU等,这将减少微软对英伟达AI服务器芯片H100/A100的依赖。

其中,微软针对内部业务推出了首款数据处理器Azure Boost DPU。

作为微软首款自研DPU芯片,Azure Boost DPU旨在高效、低功耗地运行Azure数据中心工作负载,将传统服务器的多个组件集成到单个芯片中,并将高速以太网和PCIe接口与网络和存储集成在一起引擎、数据加速器和安全功能集成到完全可编程的片上系统中。微软预测,未来配备 DPU 的 Azure 服务器将以现有服务器四倍(400%)的性能运行存储工作负载,同时将功耗降低三倍。

中科御数创始人兼CEO严贵海向钛媒体表示,这是DPU用户积极推动DPU大规模应用的标杆案例,将有利于DPU后续的快速发展。 DPU是针对智能计算和未来高性能计算的特点“定制”的。中国也在逐步完善自主的DPU、CPU、GPU等计算基础设施。需要基于与独立计算平台的集成开发,共同进步。 ,让“易用性”和“先进性”平等发展。

13亿收购整合近两年微软推出首款DPU芯片

具体来说,DPU(Data Unit)是以数据为中心的计算的新一代数据处理器。它将完整的数据中心功能集成在单个芯片上。它与CPU和GPU一起构成了新的处理计算的三大支柱。某些数据处理任务,包括数据流量的安全性和网络路由。旨在帮助减少与特定工作负载(包括 AI 工作负载)相关的核心计算任务对 CPU 和其他芯片的负载。

通俗地说,如果把一台计算机或服务器比作一个团队,CPU就相当于团队的“大管家”,负责思考和处理各种业务; GPU是“艺术家”,专门从事图像处理;而DPU就相当于球队的“大管家”。 “前台”负责打包和拆包“数据包”,提高整个团队的工作效率。

CEO黄仁勋曾指出,CPU、GPU和DPU将成为数据中心的基础。在他的愿景下,CPU 将处理一般处理,GPU 将支持加速计算,DPU 将管理数据流。

过去几年,、AMD、、等公司都在开发自己的DPU芯片。

其中,于2019年开始提供其系列DPU; AMD 自 2022 年以来一直在销售其 DPU;亚马逊AWS的Nitro卡提供类似DPU的功能;谷歌正在与英特尔合作开发可以执行许多与 DPU 相同功能的芯片。

早在2022年12月底,微软就收购了DPU制造商,这是一家由前苹果和瞻博网络工程师创立的公司,交易总价值约9亿美元(约合人民币13.76亿元)。收购后,该团队加入了微软的基础设施工程小组,因此Azure Boost DPU可能起源于该团队。

分析师迪伦·帕特尔(Dylan Patel)曾表示,交易前曾尝试融资但失败,并试图将自己出售给meta。 “微软曾考虑与meta合作设计芯片,但最终决定低价收购该公司、员工和知识产权。”

因此,这意味着微软Azure Boost DPU直接对标 DPU,再加上微软定制的CPU等,这将减少微软对 AI服务器芯片H100/A100的依赖。

微软表示:“Azure Boost DPU 专为 Azure 上的横向扩展、可组合工作负载而设计,为其云基础设施提供存储、网络、加速等方面的效率。”但微软没有透露更多基本测试信息,也没有提及Azure客户何时可以看到这些好处。

此外,微软还宣布推出Azure内部云安全芯片HSM、Azure容器应用无服务器GPU的公共预览版,以及面向HPC客户及其应用的最新的基于CPU的虚拟机Azure HBv5。

微软表示,Azure Boost DPU 是其增强基础设施的硬件创新系列的最新成员。 “随着我们不断突破可能的界限,我们仍然致力于提供创新,使我们的基础设施更强大、更高效、更具可扩展性,以满足客户不断变化的需求。”

市场规模近400亿,AI加速全球半导体市场

事实上,DPU带来的效率提升对于超大型企业来说是相当有吸引力的。在人工智能需求的推动下,这些企业正在建设越来越大的数据中心,消耗的电力也越来越多。微软表示,2022年,随着能源消耗的持续增长,其数据中心能源成本将增加8亿美元。

据称,到2031年,DPU芯片的市值可能达到55亿美元(约合人民币398.26亿元),接近400亿。

值得注意的是,国内做DPU芯片产品的初创公司也不少,如中科御数、云麦芯联、星云智联、云宝智能等。此外,阿里巴巴、百度、腾讯也进行了自研近年来,他们还为自己的服务器外包 DPU。主要功能是数据、存储和安全。

如今,AI大模型导致算力需求快速增长,基于传统IT架构的软硬件架构越来越无法满足数据中心大规模、高带宽、低时延的需求。新的 DPU 技术将引领潮流。数据中心已经从依赖单核单机计算能力的架构发展到依赖分布式集群计算的架构。

钛芯科技有限公司_钛芯片_

严桂海表示,大型模型数据中心与传统数据中心最大的区别之一是互联网络具有更高的带宽和延迟要求以及相对扁平的拓扑结构。 DPU是一个能够应对高带宽、低延迟的引擎,支持各种突发网络流量分发和大流量聚合。它可以让数据在各个计算节点之间更高效地流动,而无需CPU运算和干扰。

“减少对单一供应商的依赖是商业上的普遍思维,对供应链可靠性和成本都有好处,可以理解。但DPU仍然是技术门槛比较高、周期较长的产品。因此,和微软等中国科技巨头还是有一些天然优势的,国家也在逐步完善自己的CPU、GPU等计算基础设施。”严贵海认为,国产DPU有一些天然优势。研发仍须以独立计算平台的集成开发为基础,共同进步;同时,在一些新的系统架构和应用支持上也要吸收国际一线厂商的成功案例,做到“易用性”和“先进性”并重。

IDG资本合伙人李晓军曾表示,DPU作为与CPU、GPU并列的大芯片,驱动着数据中心基础设施的创新。深入探索DPU领域,不仅需要充分了解大型云厂商的业务需求并定义架构特征,还需要具备大芯片的工程实现能力。

微软首席执行官萨蒂亚·纳德拉(Satya )在会议上表示:“重大平台转变即将到来。”人工智能的用户界面正在迅速成为工作的组织层并决定工作的完成方式。人工智能平台将改变各级人员有效、高效的工作方式,而人工智能代理将成为焦点。

展望人工智能的未来,纳德拉指出,“人工智能的问题在于计算机不关心,但我们关心。在所有这些快速变化中,我们始终忠于我们的使命,即为地球上的每个人和每个组织赋能。我们可以取得更大的成果,利用这项技术为团队和世界带来改变。技术不是为了技术而技术,而是将技术转化为现实成果。技术的变革力量可以驱动业务增长、提高效率、提高效率。经营平衡(杠杆)。”

纳德拉强调,AI技术技能将改变人们的生活,事实上,它已经发生了改变。

(本文首发于钛媒体App,作者|林志佳,编辑|胡润峰)

更多精彩内容,关注钛媒体微信ID(ID:),或下载钛媒体App

 
标签: DPU 微软 收购 芯片
打赏
 
更多>同类资讯

0 条相关评论
推荐热播视讯

推荐视频

    Copyright © 2017-2020  二手钢材网  版权所有  
    Powered By DESTOON 皖ICP备20008326号-2