美光端侧AI内存技术解析：LPDDR5X与分布式模型的协同实践

　　据 Gartner 预测，2025 年支持生成式 AI 的端侧设备硬件支出将增长 99.5%，达到 39 亿美元。这一数据背后，折射出端侧 AI 技术正在经历的快速发展阶段。在这一进程中，内存与存储技术的角色日益凸显，成为制约或加速 AI 应用落地的关键因素之一。

　　【端侧 AI 推理的技术现状】

　　端侧 AI 推理在实际应用中展现出多个特点。通过在本地处理数据，端侧设备可缩短网络延迟、加强隐私保护，并减少对网络连接的依赖。此外，本地数据处理可避免在端侧设备和数据中心之间不断传输大量数据集，从而节省能源。在自动驾驶等场景中，端侧设备此前依赖云服务器完成任务，面临网络延迟和连接中断等问题，而端侧推理技术的发展为解决这些问题提供了新的方向。

　　内存瓶颈在模型训练和推理阶段尤为明显。高带宽内存 (HBM3E) 可有效缓解云端的瓶颈，而 LPDDR5X 则为端侧设备提供了高带宽与高能效。美光 LPDDR5X 内存专为旗舰智能手机中的 AI 应用而设计，以超薄封装实现高速性能和显著节能。这些内存技术可确保 AI 工作负载能高效快速执行，无论它们位于端侧还是云端。

　　【分布式 AI 模型的协同机制】

　　端侧计算发展迅速，但云仍然是 AI 生态系统的重要组成部分。融合便捷端侧计算与大规模云计算的分布式模型，正成为 AI 工作负载的一种解决方案。代理式 AI 系统可在端侧与云端之间协同工作，当终端设备中的 AI 代理遇到无法完全解答的问题时，会向云端或数据中心中更复杂的 AI 模型寻求答案，然后为用户返回响应。

　　在端侧和云端双重环境中管理 AI 工作负载带来了数据挑战。美光的产品基于业界先进制程节点，能效表现良好，其中采用前沿 1γ 制程节点的产品在同类产品中具备相应优势。从端侧 AI 到物联网设备，各行各业的客户依靠美光的技术积累来应对这些数据挑战。

　　【内存与存储的技术要求】

　　随着 AI 模型复杂度增加，对内存和存储容量的需求持续增长。端侧设备和云端基础设施都需要在保持性能的前提下支持这些扩展的模型。对于 AI 数据中心，高带宽内存 (HBM3E 和 HBM4) 能有效突破 AI 加速面临的内存墙限制。完整的内存与存储层级架构包括高密度 DDR5 模块、LPDDR5X、采用美光 CZ122 的 CXL 扩展内存池、采用美光 9650 NVMe SSD 的本地 SSD 数据缓存，以及采用美光 6600 ION 的联网数据湖。

　　端侧智能设备需要均衡的内存和存储配置，以保持 AI 工作负载的持续响应。LPDDR5X 等低功耗 DRAM 可提供实时处理所需的带宽，而存储可用于处理模型数据和推理结果。美光 1γ LPDDR5X 采用更小尺寸封装，从 1β (7.5 Gbps) 到 1γ (10.7 Gbps) 的性能提升展示了带宽提升在加速端侧 AI 时的价值。

　　【应用场景的延伸】

　　随着 AI 持续演进，内存与存储在端侧应用及设备中的作用范围扩大。无论是手机、PC 和汽车领域的企业，还是工业与机器人行业的应用者，都需要关注这些核心器件，以确保 AI 工作负载的运行。美光内存和存储解决方案助力三星 Galaxy S25 系列和高通移动平台 SoC，这些实际应用展示了技术在不同场景中的部署情况。

　　在智能手机领域，美光为旗舰智能手机带来先进 G9 NAND 技术，推出基于 G9 NAND 的 UFS 4.1 移动产品。G9 NAND 技术提升了 UFS 移动存储产品的性能，为旗舰智能手机带来更流畅的用户体验。美光助力摩托罗拉新款 Razr 60 Ultra 手机实现 AI 创新，体现了内存与存储技术在移动 AI 应用中的具体作用。

　　从 5G、移动 AI 到先进手机应用，大数据解决方案需要具备强劲性能与速度。美光提供快速、高效、可靠的解决方案。技术不仅能存储数据，更能将数据转化为智能洞察，加速价值实现。这些特性在端侧 AI 应用中体现为更短的响应时间、更低的功耗，以及更广泛的应用可能性。

编辑：张芬