7月19日，在美国加州圣克拉拉举办的FMS 2024（ of and ，内存和存储的未来）会议上，NEO CEO Andy Hsu宣布将推出一款改变游戏规则的3D DRAM——3D X-AI，具备AI处理能力，在单芯片中集数据存储和数据处理于一体，将神经网络（ANN）性能提升100倍，并将功耗降低99%。
Andy Hsu 表示，基于 NEO 的 3D X-DRAM 技术，3D X-AI 可模拟人工神经网络，包括用于存储权重数据的突触和用于处理数据的神经元，非常适合加速下一代 AI 芯片和应用。3D X-AI 可取代高带宽内存 (HBM)，有望大幅促进 AI 芯片设计和 AI 工作负载优化。
据介绍，单颗3D X-AI芯片包含300层3D DRAM，容量达128 Gb，1层神经网络电路，有8000个神经元，每颗芯片最高支持10 TB/s的AI处理吞吐量，采用堆叠HBM封装的3D X-AI芯片可将3D X-AI芯片的容量和性能提升12倍，达到1,536 Gb（192 GB）容量和120 TB/s的处理吞吐量。
“典型的AI芯片采用基于处理器的神经网络。这涉及结合高带宽内存来模拟突触以存储权重数据，以及图形处理单元（GPU）来模拟神经元以执行数学计算。性能受到HBM和GPU之间数据传输的限制，这将降低AI芯片的性能并增加功耗，”NEO创始人兼首席执行官Andy Hsu表示。这些芯片具有神经网络功能，每个3D X-AI芯片中都有突触和神经元。它们用于显着减少执行AI操作时在GPU和HBM之间传输数据的繁重工作量。我们的3D DRAM大大提高了AI芯片的性能和可持续性。”
