源生视界

美光如何通过内存模型优化将硬件辅助验证性能提升3倍

有机会驾驶高性能汽车的人都深知,仅靠马力大小并不能说明全部问题。电动汽车(EV)或许能够提供瞬时扭矩和出色的加速性能,V12 发动机则以强劲动力和独特驾驶特性著称,但如果系统其他部分成为瓶颈,两者都无法充分发挥潜能。电池容量、散热管理、传动效率和动力传递都会影响实际性能。此时,瓶颈便从发动机本身——也就是马力大小——转移到了支撑发动机运行的各个系统。

AI 和数据中心系统通常集成了 CPU、GPU 和 NPU 等多种计算引擎;它们与内存及各类子系统互连,推动软件工作负载、内存容量和接口复杂度以前所未有的速度增长。因此,验证团队面临在硅前完成整个软硬件系统验证的挑战,而内存子系统正日益成为这一挑战的核心。

复杂的内存设计可能包含数十 GB 的 HBM、容量超过 128 GB 的 LPDDR,以及 TB 级的 NAND 存储。虽然硬件仿真平台(Emulation Platform)能够提供对这些系统进行建模所需的计算能力,但内存容量和带宽往往会成为限制因素。随着内存需求不断增长,高效的内存建模与访问成为保持验证吞吐量的关键。

只有更快的引擎,却没有合适的传动系统将动力传递到车轮,并不能让你赢得比赛!

美光科技的 Herman Cheung 表示:“所谓‘内存墙’问题,是指计算层运行速度过快,而内存层无法跟上,导致整个系统停滞。”

美光如何通过内存模型优化将硬件辅助验证性能提升 3 倍

美光基于 NAND 闪存设计创建了模型,其总线功能模型(BFM)采用美光的专有技术与架构,用于支持内存协议和内存接口。该架构的关键组成部分是新思科技 ZeBu Memory Transactor,它将硬件模型连接到主机内存,帮助团队在开发早期分析、验证并优化内存行为。

在 BFM 与 Memory Transactor 之间,数据流状态机用于确保数据传输过程不会发生阻塞(见图 1)。

ef888cbc-d76e-11f1-8a4b-92fbcf53809c.jpg

▲图 1:NAND 使用模型

美光利用该模型,在新思科技 ZeBu Server 上进行仿真时探索内存模型优化方法。通过减少不必要的数据移动、调整缓存行为,并优化内存资源的实现方式,团队提升了整体仿真吞吐量。

策略 1:消除不必要的数据移动

美光团队通过尽量减少 Emulator 与主机之间的通信来提升性能,因为这类通信是运行时开销的主要来源。关键优化措施包括:将高频访问资源保留在硬件侧;将多次传输批量合并为更大的事务处理;使用后门访问加速数据加载;以及针对不同工作负载类型调整缓存策略。通过减少不必要的数据移动并提高内存访问效率,团队显著提升了整体仿真吞吐量。

策略 2:通过并行处理和流水线提升吞吐量

该理念通过优化时序行为和提高并行度来改善性能。关键技术包括:使用时钟计数器替代对仿真器不友好的延时;使用使能信号取代不必要的时钟门控;在非关键路径上采用周期精确接口;对内存操作进行流水线处理;以及在空闲周期调度数据传输。这些优化措施减少了停顿、提高了并发度,使仿真器保持更高效地运行。

策略 3:性能剖析、持续调优,并聚焦真正影响运行时间的因素

团队利用性能剖析和性能指标来识别瓶颈、分析关键内存时序路径,并优化不同工作负载下的队列深度和缓存设置。通过持续监测仿真频率和有效运行时间,团队得以聚焦于能够带来最大性能收益的改动,避免把时间花在影响有限的优化上。

真正重要的成果

性能剖析帮助团队专注于能够带来可量化收益的优化上。不过,并非每种方法都能产生实质性收益。美光评估了稀疏内存扩展方案,但它并未显著改善运行时间,这表明硬件内存占用并非主要性能瓶颈。相比之下,数据移动、时序行为、缓存调优和关键路径优化带来的影响要大得多。

美光科技的 Herman Cheung 表示:“应用稀疏内存优化并没有在运行性能上带来太大收益……硬件资源并不是真正的限制因素。”

尽管不同工作负载下的结果有所差异,但美光证明,有针对性的内存模型优化可使仿真性能提升 3 倍以上(见表 1)。

▲表 1:仿真性能提升 3 倍以上

该项目也反映出更广泛的行业趋势:随着 AI 和软件定义系统不断增加验证复杂度,硬件仿真正成为验证整个软硬件系统不可或缺的手段。通过结合优化的内存模型与接口解决方案——这些都是新思科技 ZeBu 硬件仿真中的软件定义的解决方案——团队能够加速软件启动,提高系统验证效率,并降低首次流片风险。

正如 V12 跑车或高性能电动汽车一样,最快的系统未必是动力最强的系统,而是能够让整个系统高效协同发挥性能的系统。

  • 随机文章
  • 热门文章
  • 热评文章