芯片之间的数据搬运,一直是AI算力的隐形瓶颈。10月12日,英伟达和思科联手推出USFP光模块规范,单通道跑到400Gbps,是业界首款支持这一速率、还能插拔的光模块标准。首批产品带16条全双工通道,后续可扩展到32条以上,总吞吐最高12.8Tb/s。体积和OSFP差不多,集成度更高——AI集群的"血管"先一步扩容了。
但比弗利山举行的CAIS峰会上,讨论的是另一面。黑石集团的Mike Forman说,基础设施供应正在收紧,电力尤其紧。过去公用事业公司6到12个月就能让项目接入,现在给出的等待时间最长到7年,还要求高达10亿美元的投资,确定性反而更低。能源成本在涨,公众对新建数据中心的反对声也在变大。
人事层面同样在动。10月14日,OpenAI基础设施与算力负责人萨钦·卡蒂宣布辞职,入职才约一年。他在任内推动了大型数据中心项目"星际之门",并促成OpenAI与软银、甲骨文、亚马逊AWS在算力上的合作。接任者是乌代·鲁达拉朱,卡蒂可能以顾问身份继续合作。这也是OpenAI近期高管接连出走的最新一例。
三件事拼起来,指向同一个问题:算力扩张的卡点早就不只卡在芯片上。带宽可以靠光模块拓宽,但电、钱、人跟不上,数据中心照样建不起来。下一轮算力竞赛,比的是谁能先把这些非技术瓶颈拆掉。