进入以任务驱动的Agent时代,如何优化存、算、联的智算系统以适应高速推理计算的需求,这是新紫光集团前沿技术研究院的重要课题之一。5月7日,2026新紫光集团创新峰会在北京举办。新紫光集团前沿技术研究院执行院长李莺先生,在会上分享了三维堆叠近存计算的创新技术路线。


图片


Agent时代有一个关键的变化:大模型的持续迭代,对存储带宽与容量的需求正在指数级飙升,存储能力已经开始主导模型的结构与上限。面对这一挑战,李莺院长指出,3D DRAM是明确的技术趋势,也是当前新紫光集团前沿技术研究院重点关注和突破的技术路线。3D DRAM在带宽、容量、延迟之间实现了平衡,适配自主智能体的大容量、大带宽需求,成为支撑智能体大规模落地的核心算力底座。通过增加单层物理尺寸以及增加堆叠层数可实现3D DRAM存储容量提升,而3D DRAM更大的优势是带宽,可以非常明确地提升推理的计算效率,契合Agent对存储容量和带宽的更大需求。


基于3D DRAM的优异性能,以及紫光体系在3D堆叠技术方面的长期积累,新紫光集团前沿技术研究院正式发布紫弦架构——以3D DRAM为核心,面向高效推理、三维化近存计算、大带宽一以贯之的新型计算架构。紫弦架构,在芯片层面支持SIMT的通用GPU架构、实现三维堆叠的异构设计;在软件应用层面,支持通用统一内存访问方式以及极致优化的近存访问方式;在系统层面,支持CPU+GPGPU的通算、智算异构设计,应对Agent时代对更多复杂场景、虚拟化和模型管理的CPU负载的需求;同时支持scale up、scale out的高速集群互联。


紫弦架构,包含计算逻辑、控制逻辑、3D DRAM等关键组件。通过C2C Link、D2D Link等连接方式,实现CPU、GPGPU等的协同工作。紫弦架构中的GPGPU通过联合CPU,实现通智异构协同,再通过Scale up和Scale out交换机实现算网融合、资源拓展。紫弦架构将计算和网络融合的深度优化和创新设计,构建起高效的计算体系,为后续的创新实践奠定了坚实基础,有望在AI推理计算领域带来新的突破。


紫弦三维化架构的主要创新点:


(1)三维化堆叠架构存储带宽超30TB/s,大带宽使得计算的效率更加高效,同时基于三维堆叠的国内领先供应链可规模化量产。


(2)采用GPGPU+近存PNM计算模式,实现了性能的大幅提升。GPGPU作为通用计算核心,具备原生SIMT架构,易用性强,可兼容海量应用,实现客户代码的便捷迁移,GPGPU结合PNM近存计算,使GPU的输出Token吞吐量得以大幅度提升,交互性也显著增强。


(3)采用CPU与GPU双芯联动、异构协同,一方面能将访问延迟大幅度降低,实现低延迟推理优化,还能扩展内存容量,支持超长上下文,同时双向带宽也能大幅度扩展,降低数据搬运时延,消除传输瓶颈,加速Agent混合工作流;另一方面可实现CPU、GPU动态工作负载均衡,保证Cache Coherency缓存一致性,为算力提升带来新可能。


新紫光集团旗下相关新设企业将基于紫弦先进架构,聚焦AI大算力芯片的研发和产业化,为国内外客户提供高能效比AI大算力芯片。