3月25日消息，据韩国alphabiz报道，英伟达最快将从9月开始大量购买三星电子的12层HBM3E内存，后者有望成为英伟达12层HBM3E的独家供应商。

在2月27日的官方声明中，三星电子宣布成功开发出业界首款12H（12层堆叠）HBM3E DRAM内存。据公开资料显示，HBM3E 12H支持全天候最高带宽达1280GB/s，产品容量也达到了36GB。相比三星8层堆叠的HBM3 8H，HBM3E 12H在带宽和容量上大幅提升超过50%。

HBM3E 12H采用了先进的热压非导电薄膜（TC NCF）技术，使得12层和8层堆叠产品的高度保持一致，以满足当前HBM封装的要求。因为行业正在寻找缓解薄片带来的芯片弯曲问题，这项技术将在更高的堆叠中带来更多益处。三星一直在努力降低其非导电薄膜（NCF）材料的厚度，并实现芯片之间的间隙最小化至7微米（µm），同时消除了层与层之间的空隙。这些努力使其HBM3E 12H产品的垂直密度比其HBM3 8H产品提高了20%以上。

三星的热压非导电薄膜（TC NCF）技术还通过允许在芯片之间使用不同尺寸的凸块（bump）改善HBM的热性能。在芯片键合（chip bonding）过程中，较小凸块用于信号传输区域，而较大凸块则放置在需要散热的区域。这种方法有助于提高产品的良率。

三星曾在新闻稿中宣称，凭借超高性能和超大容量，HBM3E 12H将帮助客户更加灵活地管理资源，同时降低数据中心的总体拥有成本（TCO）。相比HBM3 8H，HBM3E 12H搭载于人工智能应用后，预计人工智能训练平均速度可提升34%，同时推理服务用户数量也可增加超过11.5倍。

在GTC 2024大会上，英伟达CEO黄仁勋对三星电子的12层HBM3E内存给予了高度评价，并在实物产品上留下了"黄仁勋认证（JENSEN APPROVED）"的签名。这一认证不仅是对三星电子技术实力的认可，也为双方未来的合作奠定了坚实的基础。

与此同时，另一内存巨头SK海力士虽然因工程问题未能推出12层HBM3E产品，但计划从本月末开始批量生产8层HBM3E产品。这一进展表明，内存市场的竞争依然激烈，各大厂商都在积极推动技术创新，以满足日益增长的高性能计算需求。

英伟达在GTC2024大会上发布的B200和GB200系列芯片，将进一步推动AI技术的发展。B200芯片拥有2080亿个晶体管，采用台积电4NP工艺制程，能够支持多达10万亿个参数的AI大模型，并提供20 petaflops的AI性能。这一性能的飞跃，预示着AI技术将在各个领域发挥更大的作用，从医疗健康到自动驾驶，从金融服务到智能制造，都将受益于这一技术进步。

随着三星电子独家供应的12层HBM3E内存的加入，英伟达的B200系列芯片将如虎添翼，为AI领域带来前所未有的计算能力。未来，我们期待看到更多由这些高性能芯片驱动的创新应用，为人类社会带来更多的可能性。