2026年9月23日，第五届GMIF 2026全球存储器行业创新峰会在深圳举行。本届峰会以“AI存储，驱动未来”为主题，聚焦AI时代存储技术的发展与产业协同。寅谱CTO熊巍出席，带来《存储技术如何重塑大语言模型推理的硬件架构设计》主题演讲，围绕大模型推理的存储瓶颈、前沿存储技术与软硬件协同设计，分享寅谱对下一代存算架构的思考与技术布局。
联芸科技存储事业部副总经理金烨随后介绍了联芸科技与寅谱共同打造的AI SSD联合方案，展示双方在端侧推理与存储协同领域的技术实践。
本届峰会上，寅谱与联芸科技共同打造的AI SSD联合方案荣获GMIF 2026年度大奖“杰出智能存储成果奖”。寅谱同期设立展台，为与会嘉宾了解公司的技术方向与解决方案提供交流窗口。
面向规模化推理，重新思考存储与计算的关系
随着大模型的发展走向规模化推理，单位Token的成本、响应速度与能效，成为硬件架构设计的重要考量。模型在不同推理阶段呈现出不同的计算与访存特征，也对存储资源的组织方式提出了更细致的要求。
熊巍在报告中分析了几类典型瓶颈：在小批量Decode场景下，逐Token生成需要反复读取权重，数据供给速度可能限制计算效率；MoE模型每次仅激活部分专家，但完整参数仍需存储，增加了容量与调度压力；长上下文与多轮交互则推动KV Cache的体积持续膨胀，使缓存的存放、复用与管理更加重要。这些问题共同指向一个架构命题：如何围绕数据的实际使用方式，协同设计存储与计算？报告由此提出，应当将存储容量、带宽与数据搬运成本纳入推理硬件的核心设计考量，探索存储技术进步所带来的新型计算组织方式。
关注前沿存储技术，探索下一代存算架构
围绕大模型推理对存储容量、数据供给效率与计算组织方式提出的新要求，熊巍结合寅谱的软件定义硬件设计思路，分享了对CXL、高带宽闪存及近存、存内计算等前沿技术的研究与判断。贯穿这些讨论的核心问题是：如何从模型的实际数据需求出发，将存储技术的进步转化为推理架构的效率提升。
针对模型参数与KV Cache持续增长带来的容量压力，熊巍重点讨论了CXL内存扩展与池化，以及控制器内无损压缩的应用潜力。在他的分析中，容量扩展需要与数据分层、访问管理及推理调度共同设计，才能为模型运行提供更灵活、更经济的存储支撑。这也体现了寅谱从系统整体出发看待存储技术的设计思路：既关注存储单元能够提供多少容量和带宽，也关注这些能力如何被推理系统高效使用。
对于高带宽闪存HBF，熊巍进一步探讨了其参与推理架构设计的可能性。他结合相关研究，分析闪存内部并行、数据布局与预取机制如何影响数据供给，并强调模型权重与KV Cache的不同读写特征需要在硬件设计中得到充分考虑。这一讨论与寅谱在推理数据调度和软硬件协同上的技术积累相呼应，为探索新型存储介质与推理系统的适配提供了思路。
围绕MoE专家权重的搬运开销，熊巍将讨论延伸至近存计算与存内计算，探索让部分权重驻留在存储设备侧、将相应计算部署在数据附近的架构路径。通过以较小的激活值传输替代大规模权重搬运，这类设计有望缓解计算与存储之间的互连带宽压力。他同时分析了专家负载、计算精度与通信开销对架构选择的影响，展现寅谱对计算任务划分与数据放置之间关系的深入思考。
通过此次分享，寅谱呈现了面向下一代存算架构的技术研究视野，以及连接模型需求、存储技术与硬件设计的能力基础。这些研究与判断，为寅谱持续探索面向AI推理的新型计算架构积累了技术储备。
软件定义硬件和系统级设计积累技术能力
支撑上述探索的，是寅谱在软件定义芯片设计与系统级设计、控制方面的技术积累。面向AI基础设施，寅谱围绕大模型推理专用ASIC和计算机系统控制开展研发，将模型执行、数据调度与硬件资源组织纳入整体设计。
在此次报告中，熊巍以围绕KV Cache和围绕专家组织推理系统的不同思路为例，阐释软件如何影响硬件设计：缓存共享与复用需求会影响存储节点和传输路径，专家的路由与调度方式则会影响计算资源配置、权重放置及互连设计。
这种从运行时需求出发的协同设计方法，为寅谱连接计算侧与存储侧的技术创新提供了基础。通过对存储层级、预取调度和计算位置的持续研究，寅谱进一步积累面向未来推理负载的架构设计能力，并探索将相关技术应用于具体系统与产品。
携手联芸科技，分享AI SSD联合方案
在AI SSD技术介绍环节，联芸科技存储事业部副总经理金烨分享了联芸科技与寅谱共同打造的AI SSD技术。该方案面向边、端侧大模型推理，通过存内数据处理，实现模型权重、精度位和KV Cache的智能预取、并行和管理，旨在缓解本地内存与显存的容量压力，改善推理数据供给效率，让本地计算支撑的大模型容量扩大数倍。这一方案体现了寅谱和联芸在近存计算、AI infra、计算机系统方面的技术积累，是双方将计算与存储领域的能力结合、推动技术应用的具体实践，也表明了寅谱与联芸科技双方团队的友谊和长期合作决心。
寅谱荣获“杰出智能存储成果奖”
在GMIF 2026年度大奖评选中，寅谱荣获“杰出智能存储成果奖”，与联芸科技共同打造的AI SSD技术的创新与应用价值获得认可。该方案从AI推理需求出发，通过双方在近存计算和存储方面的技术积累，实现KV Cache持久化、MoE模型冷热专家、精度位的预取及智能分层，缓解边、端侧推理的容量与数据访问瓶颈。此次获奖体现了寅谱在推理数据流研究与近存计算上的技术积累，也展现了寅谱与联芸科技将计算侧和存储侧能力相结合的创新成果，为AI PC、边缘设备及智能体应用提供更高效的本地推理支持。
随着大模型推理从云端向边、端侧延伸，本地内存与显存容量压力日益突出，AI SSD联合方案为AI Cluster、AI Server、AI PC、边缘设备及智能体应用提供了更高效的本地推理支持。未来，寅谱与联芸科技将继续深化合作，围绕AI推理的存储需求，推动计算与存储的协同创新，为下一代AI基础设施提供更高效、更经济的存算架构方案。
