人工智能发展推动算力需求激增,国产 AI 芯片加速突围

   日期:2024-09-30     来源:网络整理    作者:二手钢材网    浏览:206    评论:0    
核心提示:英特尔代工的困境我们已经看到高通和联发科都推出了内置NPU的手机。英伟达的H100,还有谷歌的TPU,TPU只是另一种描述NPU的方式,然后还有阿里巴巴,Facebook,Meta,微软。Trillium,谷歌第六代TPUs目前我只想购买英伟达的芯片。

_英伟达华为_华为昇腾910

李波:欢迎首席执行官戈德堡先生。此外,您还是 ( ) 的管理合伙人。第一个问题,给公司起名为“主权技术合作伙伴”的想法是什么?

:现在每个人都在谈论数据和技术,但我们想要向客户传达的理念是,你确实拥有个人所有权,对你的技术和数据拥有主权——这是我们试图传达的一个重要概念,这才是真正引起这些客户共鸣的东西。

李波:在我们开始严肃的提问之前,我想问一下,五年后当你再次看到中国时,你对中国的印象是什么?这还是你以前熟悉的中国吗?或者您是否看到添加了一些新元素?

戈德堡:两者都有。这是我第一次真正体验中国高铁,最棒的是只需要用app就可以订票,我是在上车前10分钟订的票!太棒了,去任何想去的地方都是那么简单、那么方便。这是中国现代化进步的有力标志!

但与此同时,我仍然可以轻松地下车。下了火车,我找到了一家面馆,花10块钱就可以买一碗不错的米粉或者饺子,和以前一样,我很喜欢这里的食物。非常令人兴奋,无论是价格还是食物的质量都很好。

李波:关于网络连接问题,你到了中国,还是可以连接到你的海外应用的,对吧?因为您使用的是美国手机号码,所以不会断开原来的网络。

戈德堡:是的。这对我来说有一种很奇怪的感觉。当我还是一名学生时,我从1991年到1992年在北京大学学习了一年。那是在互联网和手机出现之前,我以前必须通过长长的手写信与家人沟通,常常需要几周的时间才能沟通来回。

现在,即使我在出差途中,我也可以每天与孩子们交谈。当时我从未想象过有一天我会进入一个不同的世界,在那里数字通信会变得更加容易和美妙。

美国“芯片法案”未达预期

李波:咱们进入正题吧。最近,我们看到数百亿美元的现金以补助金的形式向英特尔、台积电和三星等公司提供。您认为美国政府会用这么大的力度来推动《芯片法案》吗?预期结果是什么?

戈德伯格:我认为芯片的作用必须结合实际情况来理解。 《芯片法案》的资金总额超过500亿美元,将分五年分配。以台积电为例,他们的资本支出每年已达到 400 亿美元。

因此,五年内向数十家芯片制造公司分期支付500亿美元并不是一个庞大的数字。我认为《芯片法案》的意义在于向美国企业发出一个信号,他们将得到美国政府的一些支持,特别是监管方面的支持。它的作用是政府认识到半导体行业对美国的重要性。我认为这个信号比实际拨款更重要,因为资金并不多。

英伟达华为_华为昇腾910_

美国《CHIP法案》资金流向(截至2024年4月)

李波:象征意义很强,但钱是真现金。这是直接补贴。而不是政府承诺减税来帮助的那种项目,对吧?

戈德堡:这是真钱,真现金。但这很奇怪,因为这在美国并不常见。据我了解,美国政府在过去五十、六十年里从来不想这样做。美国政治精英和我们美国政府不擅长提供直接补贴,整个国家过去也早就避免了这种情况。

李波:所以我认为不会再有一个“芯片法案”。

戈德堡:但目前的政策足够强大,至少可以持续五年。届时,我们可能会看到政府出台所谓的产业政策来限制市场力量的自然运作。

李波:对此主要的批评是什么?

戈德堡:现在很难预测美国政治中的任何事情。所以我不知道4个月后会发生什么,更不用说5年了。但目前看来,推动“芯片法案2.0”或围绕半导体建立真正的产业政策框架的支持并不多。美国过去没有国家产业政策规划的经验。也许这种情况将来可能会改变,但我觉得这里的人现在不想把这件事放在心上。所以我认为不会有更多这样的法案。

英特尔代工困境

李波:您在中国出差的时候,有没有听说过英特尔代工服务(IFS)想要进入中国市场参与竞争的传言?您如何看待英特尔这一名为 IFS 的举措?

戈德堡:作为一家公司,英特尔确实面临着真正的挑战。根据他们的经济模式,他们需要有更多的客户来支持不断改进制造工艺所需的研发投资。多年来,他们认为目前的客户数量就足够了。但现在情况已不再如此。他们实际上需要增加另一个同等规模的外部来源,使收入规模增加一倍,以保持摩尔定律的发展。

对我来说,他们在各地寻找客户是完全有道理的。他们需要向每一个可能的潜在客户介绍他们的服务。我听说他们不仅在向中国的客户进行营销,而且还在向世界各地的客户进行营销。

但代工领域已经有台积电和中国大陆的中芯国际。那么他们会做什么呢?他们需要降低价格。

如果你与英特尔谈论他们的代工计划,他们喜欢强调的一件事是,当他们转向新的下一代工艺时,他们将淘汰旧的工艺。相比之下,台积电的模式则不同。每当他们添加新的工艺技术时,他们仍然继续销售旧产品。在台积电你可以得到8代、10代等不同的工艺。这使得商业模式非常有利可图:因为你已经在纸上折旧了所有设备,而实际上它仍然在运行。英特尔已经意识到他们也需要这样做。

所以我认为他们的很多业务都是建立在英特尔的16nm工艺上的。他们仍然拥有很多这种能力。尽管您的 PC 不需要这些旧流程。他们的数据中心不需要它,但还有许多其他地方、许多其他客户可以充分利用它。所以我认为他们的重点是填补这些过去的节点。

替代方案蓬勃发展

李波:根据您最新的播客,您谈到了NPU在AI应用场景中的广泛采用。是不是因为大家对人工智能能力极限的探索,激发了对NPU和DSP的兴趣?

:我必须在这里准确地说,NPU 或神经处理单元是集成到另一个芯片中的一组电路。

这些 NPU 专为人工智能工作负载而构建。我想我们已经看到很多设备制造商朝这个方向发展,就像这样,但苹果并没有称之为 NPU,而是称之为神经引擎,而且他们已经使用它 5 到 6 年了。

我认为这种情况将会变得越来越普遍。我们已经看到高通​​和联发科都推出了内置 NPU 的手机。我们看到所有笔记本电脑 CPU 制造商都开始这样做。现在这些AI PC,其实只是通过某种方式把NPU放到了CPU里。

李波:NPU的应用会对大型模型的训练产生怎样的影响?

:我认为大型模型训练仍然会在 GPU 等大型芯片上进行。但如果你将 NPU 的定义扩大到包括 AI 加速器,正如我必须准确指出的那样,AI 加速器将成为模型训练的一个重要且独立的类别。

但现在,拥有成熟的芯片研发体系来训练人工智能模型的公司实际上只有两家。 的H100,还有谷歌的TPU,TPU只是NPU的另一种说法,然后还有阿里巴巴、meta、微软。他们都在构建自己的人工智能训练加速器。

_英伟达华为_华为昇腾910

、谷歌第六代TPU

但这些加速器并不是那么先进和有效,而且大多数还处于第一代。谷歌目前正在开发第七代TPU,他们只有一个版本用于模型训练。我认为微软和微软很乐意用自己的芯片进行训练,但我认为他们现在做不到,这还需要很多年。

李波:是的,我曾经听说如果你改变模型,你必须使用GPU,因为你要做浮点运算。一旦排除基于人工智能的云,实际上就不需要太多 GPU 来提高计算能力。

戈德堡:我当然可以对此说些什么。谷歌大约七八年前推出了他们的 TPU。当它们宣布后,风险投资界开始争先恐后地投资这些人工智能加速器或 NPU 公司。那个时代诞生了很多企业。其中大多数已不复存在。他们确实花了一年时间开发新的人工智能芯片。但芯片出来后,软件变了,模型也变了。我们实际上已经多次看到这种情况发生。

很多初创公司都渴望拥有NPU设计能力。他们制造了一些出色的芯片,在当今的工作负载下表现良好,但需要一年的时间才能将芯片投入生产。目前,软件生态系统和人工智能模型发展如此迅速。

最终会发生的是,如果你制造一款芯片的目的是设计 ASIC(专用芯片)来服务于特殊用途的人工智能加速器,那么这确实会比 GPU 更好,并且对于该独特的模型来说非常高效。 ,但是一旦你改变了模型,哪怕只是一点点,这些性能提升可能会突然消失。在这种环境下,任何购买 GPU 来训练模型的人都可能会承担一些风险。但如果稍微改变一下,这种效率差异就消失了,这就复杂了。目前我只想买芯片。这是一个相对安全的解决方案。

我觉得和谷歌的区别在于,他们之所以有这么好的芯片,是因为他们可以控制自己的软件。他们的芯片设计团队,他们可以与他们的软件团队非常密切地合作——他们有设计芯片本身的软件人员。未来对软件的任何更改都将提前告知芯片团队。

 
打赏
 
更多>同类资讯

0相关评论
推荐热播视讯

推荐视频

    Copyright © 2017-2020  二手钢材网  版权所有  
    Powered By DESTOON 皖ICP备20008326号-2