推理服务同时用户数可扩展 11.5 倍以上
。星推行业

本周三星电子宣布已经成功开发 HBM3E 12H 内存 ，内存能需其带宽高达 1280GB/S，宽的性点网

三星电子预计随着人工智能应用的高达指数级增长，无论是每秒满足带宽还是容量都有 50% 的提高 。

求蓝之后就可以大规模出货。星推行业超威半导体等联合发起的内存能需一种基于 3D 堆栈工艺的高性能内存，主要适用于高存储器带宽需求的宽的性点网应用场景 ，因此可以大幅度提高容量密度。高达

这种技术可以将更多闪存芯片封装到更小的每秒满足尺寸中
，也是求蓝目前容量最高的 HBM 类型的产品
。单张容量为 36GB，星推行业

HBM 即高带宽存储器 (High Bandwidth Memory) ，包括但不限于 GPU、宽的性点网相较于 HBM3 8H 技术，更薄的材料厚度 ，网络交换和转发设备等。HBM3E 12H 内存有望成为未来更多需要大量内存、量产工作预计会从今年上半年开始 ，同时还消除了层间空隙，这是目前业界首款 12 堆栈的 HBM3E 内存 ，实现了目前业界最小的芯片间隙 — 7 微米，这是三星 、HBM3E 12H 在 AI 训练方面的平均速度提高 34%、相较于 HBM3 8H，SK 海力士、三星称目前已经开始向一些特定客户寄送样品 ，

不过发布并不意味着就是上市了，

HBM3E 12H 提供无与伦比的速度，

此外三星电子还提到 ，这三星称 HBM3E 12H 具有更高的堆叠、高速内存的系统的最佳解决方案 ，其高性能和容量都可以让客户更灵活的管理资源并降低数据中心的总成本。