首页 > 技术知识 > 正文

三星制造了一台号称是同类的超级计算机,其中包含AMD数据中心GPU,并在内存芯片中进行处理,该公司表示,这可以显著提高训练大型人工智能模型的性能和能效。

三星将内存处理芯片安装到图形处理器上,用于首款超级计算机-三星内存厂

这台超级计算机于周二在韩国的一次行业活动上公开,包括96个AMD Instinct MI100 GPU,每个GPU都装有一个内存处理(PIM)芯片,这是一种新的内存技术,可以减少在CPU和DRAM之间移动的数据量。

据报道,三星电子高级技术研究院人工智能研究中心负责人崔昌圭(Choi Chang-kyu)表示,与不使用PIM芯片的相同集群配置相比,该集群能够以2.5倍的速度训练由谷歌开发的文本到测试传输变压器(T5)语言模型,同时使用的功率减少2.7倍。

PIM驱动的超级计算机具有如此强大的性能的一个重要原因是每个PIM芯片都使用了高带宽内存(HBM),业界越来越多地转向处理高性能计算和人工智能工作负载。英伟达和AMD已经在数据中心GPU中使用了几代HBM,英特尔计划在即将推出的Xeon Max服务器处理器变体和高端数据中心GPU中引入HBM。

三星HBM-PIM芯片与其他公司的HBM实现的不同之处在于,PIM芯片上的每个存储器内部都包含一个处理单元。根据这家韩国电子巨头的说法,通过将部分计算转移到内存内部,这减少了在CPU和内存之间移动数据的瓶颈。

三星希望通过开发允许组织在集成软件环境中使用该技术的软件,来促进其PIM芯片在业界的采用。为了做到这一点,它依赖于SYCL,这是一个免版税的、跨架构的编程抽象层,恰好是Intel实现c++的onapi并行编程模型的基础。

到目前为止,该公司已经对PIM进行了近三年的宣传,它计划将这项技术推向市场的另一种方式是通过所谓的AXDIMM(加速内存的缩写)。

如果PIM开始出现在研究实验室、学术机构和其他组织在未来几年建立的新型超级计算机中,我们就会知道三星最终是否会取得任何进展。®

猜你喜欢