嘉合劲威正在研发MRDIMM内存,助力deepseek运算提升,降低AI应用硬件成本

来源: 嘉合劲威 作者:POWEV 2025-02-12 13:57:01

目前深圳市嘉合劲威电子科技有限公司(简称“嘉合劲威”),正在研发更加适合AI专业应用的新一代内存,MRDIMM。MRDIMM将通过内存容量、性能的升级,从而大大提升AI运算的规模和效能,进而降低中小企业在AI研发、运维、应用中的硬件成本。  

过去服务器、工作站主要使用的是RDIMM内存。但是随着电脑处理器、显卡性能的飞速提升,AI运算能力的发展,传统的RDIMM内存已经难以满足专业的AI应用领域。  

而HBM作为一种新型的内存芯片,目前已经发展到HBM5。它的成本较高,且需要较高的硬件方案开发能力,一般用于体积更小,更加大型的AI应用终端。
 

嘉合劲威目前正致力于研究MRDIMM内存,该产品可广泛地用于服务器、工作站,大幅度提升AI运行效能,降低中小企业AI的开发、运维、应用的成本。

MRDIMM内存,其核心组件包括多路复用寄存时钟驱动器(MRCD)和多路复用数据缓冲器(MDB)。通过并行传输实现数据吞吐量翻倍通过同时操作两个内存阵列(Rank),结合多路复用技术,将数据传输速率提升至标准DDR5 RDIMM的两倍。

MRDIMM内存的优势体现在多方面。MRDIMM完全兼容现有DDR5 RDIMM的物理接口和外形规格,无需修改服务器主板即可直接升级;往往内存容量越大,性能的提升越难,MRDIMM双等级操作,带宽倍增,是让大容量、高性能可以并存的技术。电脑处理器、显卡、内存,是影响AI运算的三大重要因素。随着处理器、显卡性能的提升,内存成为AI运算的瓶颈。MRDIMM通过提升带宽和效率,显著缓解这一矛盾。

例如在deepseek的本地部署应用中,普通用户可选择70b以内的工作模式,对于内存容量、带宽的需求不高。而中小企业选择70b以上的工作模式,单靠显卡显存肯定是难以应对的,这时候内存的容量大小、带宽成为影响运行效能的关键性因素。选择MRDIMM内存,将降低deepseek本地部署应用的电脑配置成本,而在配置不变,内存升级成MRDIMM,也将实现AI运算能效的大幅度提升。

嘉合劲威正在研发的MRDIMM内存,单根容量覆盖32GB至256GB,第一代8,800 MT/s,第二代支持12,800 MT/s速率,第三代预计将突破17,600 MT/s。根据初步测试,使用第一代MRDIMM的英特尔至强6处理器性能提升高达33%,AI推理任务中词元吞吐量提升31%,延迟降低24%。MRDIMM其大容量、高带宽、低延迟特性与AI算力需求的结合,极大地降低了AI人工智能的硬件成本,未来将逐步成为AI服务器和高性能计算的标准配置。

0
收藏
0