首先看设备端，搭载全新GB10超级芯片，成为全球最小、可运行200B参数模型的AI超级计算机。
在生成式AI应用爆发的前夕，希望进一步扩展其计算能力网络，现在它已将生成式AI放到了开发者的桌面上。
似乎正在展示AI PC在生成式AI时代的未来。虽然作为第一代产品，主要面向研发人员、科学家、开发者，但它向我们展示了更强大的个人算力使用场景，为端侧AI的发展提供了新的可能。
这样的设计不仅为开发者提供了更加便捷高效的工具，也进一步降低了AI算力应用的门槛。 正试图利用这一策略将生成式AI从云端拉到终端，从高成本的少数应用拉向更普适的AI。
当然，并不是唯一的参与者。在CES上，AMD、高通、英特尔等厂商也在设备端AI领域积极布局。
以AMD为例，其Ryzen AI Max系列移动处理器凭借集成的新一代神经处理单元（NPU）在笔记本市场表现出色。基于“Zen 5”架构的Ryzen AI 300系列进一步增强了多任务处理能力和电池寿命。从轻薄笔记本到日常办公电脑，AMD都在努力扩大在不同细分市场的份额。
与此同时，Intel还推出了一系列CPU，包括Core Ultra 200V系列、Ultra 200H系列、Ultra 200HX系列、Ultra 200U系列、Ultra 200S系列。这些细分CPU涵盖了从高性能到入门级的不同应用场景。另一方面，高通正试图通过其X入门级处理器将AI技术带入更实惠的笔记本市场，让OEM厂商能够销售+600美元左右的电脑。
相比之下，对于同一款AI PC，无论是AMD、英特尔还是高通，更多的更新都在芯片层面持续进行，而英伟达则另辟蹊径，探索软硬件一体化的AI PC新赛道。
换句话说，“卖铲子”的英伟达始终有一个2C“核心”。纵观的历史，我们很早就想成为一家to C公司，比如我们以前是做游戏机的。但现实却恰恰相反。 已经走上了扮演算力提供商角色的道路，越来越像一家纯粹的to B公司。
兜兜转转，在AI PC领域，英伟达再次回归C端市场，整合产业链。从Arm架构到GPU和CPU的融合，对于英伟达来说，是自身产品能力的溢出。现有的技术框架支持推出新的产品线。
从另一个角度来说，现在很多人买电脑的时候，主要是买显卡。英伟达也在横向扩展其产品线。面对未来的AI PC市场，我们可能不会高溢价购买惠普、戴尔等品牌的产品。相反，英伟达凭借其在PC用户中的吸引力，绝对有机会与这些巨头竞争。
相比之下，英特尔或者其他算力公司总是在尝试更多的商业业态和技术路线。不过，在业内人士看来，战胜的方法一定不是通过，而是要有下一个时代的技术方向和路径。 ，我们不能再用上一代的汽车来驱动下一代的道路。
从目前来看，英伟达的战略路线非常清晰，通过软件加硬件到现在到C成品不断形成自己的端侧壁垒。英特尔、AMD等竞争对手能否超越他们，也取决于他们能否在下一代计算领域占据领先地位。
无论竞争形势如何，设备端人工智能的兴起标志着计算能力进入了一个新阶段。从数据中心到个人桌面，从企业用户到普通消费者，人工智能的未来正变得更加触手可及。
AI推理时代：“边缘”创新
它是推出的终端侧创新产品线。不过，目前人工智能的增长仍主要集中在云端。特别是，随着推理需求越来越强烈，推理计算的竞争也变得更加激烈。 占据了AI训练市场90%的份额，但AI推理市场正在开辟更多空间。
2024年10月，英伟达管理层在AI路演上特别提到了推理带来的市场。高管们表示，目前仍处于人工智能周期的早期阶段。随着o1模型的发布，新的AI叙事正在展开，并开始转向解决更复杂的推理问题，这将增加对硬件组合的需求，而即将推出的Rack产品就是最好的解决方案。
从的角度来看，最新架构的芯片目前已经全面量产。随着AI应用深入各行业，提供更多配置来满足算力需求。
例如，在CES上，展示了GB200 NVL72大型芯片。该样本由72个GPU组成，升级主要是为了更大的计算能力要求和更低的能耗要求。 GB200 引入了高级功能和第二代引擎来加速 LLM 推理工作负载。据悉，新一代GB300将对推理模型有更好的支持。
与此同时，推理市场上也存在着众多竞争对手。比如科技巨头AWS、谷歌、微软不断迭代自己的ASIC芯片、TPU芯片；还有Groq、AI等初创公司，大家都想分一杯羹。
英伟达在训练市场的绝对垄断使得其他玩家很难直接进入这个领域。因此，推理市场成为众多初创企业和竞争对手关注的焦点。此前，推理市场就像计算世界中的“边缘”市场。现在，推理市场逐渐成为业界关注的焦点，更多的创新正在这里涌现。
在这个市场上，差异化竞争正在形成。例如，一些公司专注于开发针对推理场景优化的专用芯片，以提高特定工作负载下的性能；其他公司则尝试通过软硬件协同优化，为计算场景提供更具性价比的解决方案。
而这也是一场残酷的算力竞争。算力市场培育新物种并不容易，因为新物种是GPU绝对统治下细分领域生存进化的结果。
面对推理算力需求的增长，硬件市场更加细分，竞争更加激烈。虽然从各种预测来看，推理市场未来的增长空间巨大，但已经吃掉了市场上算力的大部分利润。推理部分的分割蛋糕，如何切仍然是一场比较残酷的竞争。
有趣的是，英伟达当时的定位也是处于边缘市场。 GPU最初的生存方式是图形计算，但计算机图形计算的重要性并不是很高。它是众多计算任务中的一个分支，但它逐渐变得更加重要，从边缘走向关键核心。
现在，推理也从边缘走向了中心舞台。毫无疑问，AI领域将迎来更加繁荣的推理芯片和应用生态。未来的硬件架构中，可能会有更多的组合，包括专用于通用计算的CPU、专用于训练的GPU、专用于推理的推理芯片。
在异构计算方面，必须是强大的计算能力基础，但企业更换一个系统的成本也很高。同样值得关注的是，的竞争对手如何通过软硬件结合等创新，形成细分场景的突破路径。
