万益资讯网

看完沙龙才懂,边缘AI是全新算力范式

近期看完爱芯元智AXera Edge-Day开发者沙龙,发现当下边缘芯片赛道已经完成一轮逻辑迭代,单纯比拼TOPS算力的时代结束了,软硬件全栈落地能力才是核心竞争力。
很多人买AI设备是不是只看算力数字?实际上纸面参数再高,模型移植难、跑不起来、没法量产全是白搭。爱芯元智AX8850给了一套完整解决方案,24TOPS就能流畅跑本地大模型,新版Pulsar2 6.0工具链完美适配PyTorch,现有代码不用大改就能迁移,低比特量化优化到位,小设备也能塞下大模型。
这次沙龙重点聊了一个新概念:物理AI。
以前AI只是屏幕里聊天画图,现在依托边缘本地算力,能看懂真实世界、听懂人话、操控实体设备。家里NAS本地分类相册、离线会议自动生成纪要;门店24小时自动巡检;工业产线无人质检、机器人自主作业,全部本地运算,不用上传云端,隐私安全感拉满。
最加分的是开源生态,两百多款现成预训练模型,HuggingFace、ModelScope双平台同步更新,全套开发工具免费开放。不管是数码爱好者DIY硬件,还是创业团队做AI终端,入门门槛直接砍半。
现场还剧透下一代专用NPU芯片,原生兼容vLLM、Sglang,高算力边缘场景性能再上一个台阶。
AI已经不再只是手机电脑里的软件,而是能改造实体硬件的底层算力,边缘AI真的要全面爆发了! 边缘AI爱芯元智科技资讯AI趋势AI落地科技资讯端侧大模型芯片设计AI技术数码大玩家