存储器大厂美光 9 日发表 12 层堆栈的 HBM3E 高频宽存储器，产品容量为 36 GB，针对人工智能和 HPC，可搭配辉达 H200 和 B100 / B200 资料中心 GPU。

美光指出，新发表的 12 层堆栈 HBM3E 拥有 36GB 容量，比之前的 8 层堆栈的 24GB 容量增加 50%。容量增加可使资料中心执行更大 AI 模型，例如 Llama 2 高达 700 亿个参数。美光 12 层堆栈 HBM3E 消除 CPU 从存储器频繁读取，并减少 GPU 沟通延迟，加速资料处理。效能方面，美光 12层堆栈 HBM3E 超过 1.2TB/s 存储器频宽，资料传输速率超过 9.2Gb/s。虽然 12 层堆栈 HBM3E 容量比竞争对手产品高 50%，但功耗却低于前代八层堆栈 HBM3E。美光 12 层堆栈 HBM3E 还包括完全可编程存储器的内建自测 (MBIST) 系统，以确保客户更快上市时间和可靠性。全速模拟系统级流量，对新系统彻底测试和更快验证。美光还强调，HBM3E 存储器与台积电先进封装 (CoWoS) 兼容，可搭配封装辉达的 H100 和 H200 等资料中心 GPU。台积电生态系统与联盟管理部负责人 Dan Kochpatcharin 表示，台积电和美光有着长期的战略合作伙伴关系。生态系统的一部分，双方将密切合作，使美光以 HBM3E 系统和先进封装 (CoWoS) 支援客户 AI 创新。美光已送样给主要合作伙伴，以利用 AI 生态系统验证测试。