万益资讯网

AI时代算力需求激增,主要源于AI对存储需求呈8到10倍的“吞噬”。 传统服务器

AI时代算力需求激增,主要源于AI对存储需求呈8到10倍的“吞噬”。
传统服务器处理结构化数据流,
而AI大模型训练和推理需瞬间吞吐海量非结构化参数。训练时,要将千亿、万亿参数反复调入调出,HBM成标配,其带宽是传统DDR内存的5 - 10倍;推理时,AI智能体对延迟要求苛刻,催生SRAM用量激增,像谷歌TPU 8i的SRAM容量就提升了3倍。
从数据也能看出需求之猛,单台AI服务器内存用量是传统服务器的8到10倍,OpenAI项目每月消耗近45%的DRAM产能。全球科技巨头的财报也显示,数据中心产业链订单猛增,如AMD数据中心业务收入增长57%,安森美半导体数据中心业务成重要增长极。