AI技术

AI芯片下半场:拼内存与原生大模型,五年出货超1.3亿

AI芯片这波热潮是真的起来了。Counterpoint给出的数据挺猛,预计未来五年采用先进封装的AI芯片出货量能破1.3亿颗。台积电现在的地位连英特尔都眼红,正憋着劲儿要抢份额。另一边,被黄仁勋挖过墙角的独角兽Groq也是下了血本,打算明年把算力规模从54兆瓦硬拉到200兆瓦往上。说白了,巨头们都在疯抢基建。

不过实际上,光看峰值算力这套老打法早就过时了。Agent时代一到,芯片的定价权已经开始乾坤大挪移。现在大家卷的是什么?是谁能装下更大的模型,谁的单个Token成本压得更低。拿Cerebras刚掏出来的WSE-3 Turbo来说,算力和带宽直接翻倍不说,词元容量更是干到了十倍,主打的就是一个肚子大又省钱。

更绝的是底层架构直接被掀了桌子。阿里达摩院拿5nm工艺的RISC-V芯片玄铁C950做实验,直接在上面原生跑通了270亿参数的通义千问大模型。这颗64核服务器级处理器压根不用挂独立显卡,连模拟层都省了,硬生生把GPU的饭碗给端走了。

管你是疯狂扩产、死磕内存带宽,还是重构原生架构,AI芯片这盘棋早就换了打法。算力基建狂飙的戏码还在上演,但能笑到最后的人,绝对是那个能把大模型死死塞进芯片里,还能把Token成本打到骨折的主儿。