三星想把PIM用于HBM之外的領域
三星在使內存處理 (PIM) 技術成為主流方面又邁出了一步。其支持 PIM 的高帶寬內存 (HBM-PIM) 首次成功集成到商業化加速器系統中,這是將 PIM 技術集成到其他內存類型的愿景的一部分。
今年2月,三星推出了其首個HBM-PIM(Aquabolt-XL),將AI處理能力整合到三星HBM2 Aquabolt中,以增強超級計算機和AI應用的高速數據處理能力。隨后,HBM-PIM在賽靈思(Xilinx)Virtex Ultrascale+(Alveo)AI加速器中進行了測試,它提升了近2.5倍的系統性能,并降低超過60%的能耗。
三星內存業務部高級副總裁 Nam Sung Kim 概述了公司如何看待帶有 HBM2-PIM 的 Aquabolt-XL 用于機器學習(ML ) 加速器和其他人工智能 (AI) 應用。
他表示,由于各種物理和熱限制,新興 ML 和 AI 應用的內存帶寬需求快速增長,且更加昂貴和耗電。“由于PCB導線和芯片封裝、及功率的限制,繼續增加帶寬變得非常困難和昂貴。”
Kim 表示,通過讓處理器更接近內存,PIM 可以提高受內存限制的工作負載的性能和能源效率。
雖然PIM 并不是一個新想法,但對主機處理器和/或應用代碼進行必要更改是阻礙行業廣泛采用的一個關鍵障礙。
Aquabolt-XL瞄準是低算術密度的內存綁定負載,例如語音識別和自然語言處理,但 Kim 表示它并不打算與 AI 加速器中的機器學習競爭。相反,它旨在補充處理器的計算能力。“我們可以針對各種工作負載提高系統的性能和效率。”
PIM應用之外的HBM
三星也在 HBM 之外尋找 PIM 應用程序。Kim 表示,公司正在使用 PIM 以加速 DIMM (AXDIMM) 的形式為 DRAM 模塊本身提供處理能力。這最大限度地減少了 CPU 和 DRAM 之間的大量數據移動,以提高 AI 加速器系統的能效。
由于 AI 引擎內置于緩存芯片內部,AXDIMM 可以并行處理多個內存列(一組 DRAM 芯片),而不是一次只訪問一個列。

- 上一篇:瑞薩電子完成對Dialog的收購,將進行高管變動.. 2021/9/1
- 下一篇:怎樣用人工智能改善自動光學檢測? 2021/8/31