AI 服务器出货量的强劲增长推动了对高带宽内存(HBM)的需求。 2022 年 HBM 前三大供应商分别是 SK 海力士、三星和美光,市场份额分别为 50%、40% 和 10%。此外,专为深度学习设计的高端AI GPU的规格也导致了HBM产品迭代。为准备2023下半年推出NVIDIA H100和AMD MI300,三大供应商都在计划量产HBM3产品。 目前,SK 海力士是唯一量产 HBM3的供应商。随着更多客户采用 HBM3,其市场份额预计将增长至 53%。 三星和美光预计将在今年年底或 2024 年初的某个时候开始量产,市场份额分别为 38% 和 9%。
2023年AI服务器出货量预计增长15.4%
NVIDIA的DM/ML AI服务器平均配备4块或8块高端显卡和2颗主流x86服务器CPU。 这些服务器主要由美国顶级云服务提供商使用。分析显示,2022年高端GPGPU服务器出货量有望增长9%左右,其中约80%集中在中美8大云服务商。 展望2023年,微软、Meta、百度、字节跳动将陆续推出生成式AI产品和服务,进一步拉动AI服务器出货量。 预计今年人工智能服务器出货量将增长15.4%,预计2023年至2027年人工智能服务器出货量复合年增长率为12.2%。
AI 服务器刺激对DRAM、SSD 和 HBM 的需求同步增长
TrendForce 指出,AI 服务器的兴起很可能会增加对内存使用的需求。 虽然一般服务器有 500-600 GB 的服务器 DRAM,但 AI 服务器需要更多,平均 1.2-1.7 TB,每个模块 64-128 GB。 对于企业级SSD,由于AI服务器的高速需求,优先考虑DRAM或HBM,但SSD容量扩容的推动力尚未明显。 不过在接口方面,PCIe 5.0在解决高速运算需求上更受青睐。 此外,AI 服务器倾向于使用 GPGPU,而 NVIDIA A100 80 GB 配置为4个或8个时,HBM 使用量约为 320–640 GB。 随着 AI 模型变得越来越复杂,对服务器 DRAM、SSD 和 HBM 的需求将同步增长。
更多阅读: