SK海力士公布存内计算产品GDDR6-AiM 计算速度提升16倍
时间:2022-02-17来源:佚名
韩国存储大厂SK 海力士宣布,已开发具运算功能的下一代存储半导体技术PIM(processing-in-memory),新的PIM 技术计划在2月底于美国旧金山举行的2022 年国际固态电路会议(International Solid-State Circuits Conference,ISSCC) 大会上正式发布。
SK海力士强调,PIM芯片将随PIM 技术不断发展,未来可期待智能手机等ICT 产品发挥更核心的应用功能,甚至达成存储中心计算(Memory Centric Computing)目标。
目前SK海力士已成功开发了首款采用PIM 技术的产品GDDR6-AiM(Accelerator-in-Memory 存储加速器)样本。GDDR6-AiM 是将运算功能加入数据传输速度为16Gbps 的GDDR6 存储产品,与传统DRAM 相比,GDDR6-AiM 与CPU、GPU 结合的系统,可在特定运算环境将运算速度提至最高达16 倍,使GDDR6-AiM 有望在机器学习、高效能运算、大数据运算和资料储存等领域广泛应用。
GDDR6-AiM 工作电压为1.25V,低于GDDR6 记忆体标准工作电压1.35V,且PIM 应用还减少与CPU、GPU 数据传输往来,降低CPU 及GPU 能源消耗。此情况下,GDDR6-AiM 能成功使功耗降低达80%。
虽然SK海力士并未公布更多关于GDDR6-AiM 的细节,但是SK海力士的定制设计项目负责人 Dae-han Kwon 博士曾于 2021 年 10 月通过《EE Times》透露更多信息。Dae-han Kwon 博士展示了 CPU 处理各类型数据的功耗,以及将数据从 DRAM 移动到 CPU 缓存区域的功耗对比。后者所需的功耗达到了前者的约650倍以上。
Dae-han Kwon 博士讨论了神经网络处理中使用的典型数学运算,在多输出神经元运算时,特别提到了矩阵的乘法和加法。
△神经网络中的单输出与多输出神经元操作
Dae-han Kwon 博士表示:“如果将这些操作的电路添加到内存中,则无需将数据传输到处理器,只需将结果在内存中处理并传递给处理器。” 这很可能是SK海力士所做的。他继续说道:“对于 RNN(循环神经网络)等内存受限的应用程序,当应用程序在 DRAM 中使用计算电路执行时,性能和功率效率有望显着提高。考虑到要处理的数据量将大幅增加,PIM 有望成为改善当前计算机系统性能极限的有力候选者。”
领导芯片开发的 SK海力士解决方案开发负责人 Ahn Hyun 表示:“SK海力士将使用 GDDR6-AiM 构建一个新的内存解决方案生态系统。” 该公司计划与最近从 SK Telecom 分拆出来的 AI 芯片公司 SAPEON 合作,推出一种将 GDDR6-AiM 与 AI 芯片相结合的人工神经网络技术。
SAPEON 首席执行官 Ryu Soo-jung 表示:“我们的目标是通过结合两家公司的技术,最大限度地提高数据计算、成本和能源使用的效率。”
|