OpenAI宣告迈入AGI时代:大模型落地仍需跨越三道坎
AI技术

OpenAI宣告迈入AGI时代:大模型落地仍需跨越三道坎

OpenAI联合创始人布罗克曼最近放话,人类已经迈入通用人工智能(AGI)时代。这口号喊得响亮,但大模型在实际落地中依然有不少坑要填。模型能力上去了,不代表应用就真的稳了。从概念到实际可用,中间还隔着好几层技术考验。

比如大模型搞检索增强时,经常出现“搜到了Skill,但最终答案没受益”的情况。这就引出了Skill Following链路的概念,从检索、接收到写进最终答案,每一步都可能跑偏。研究人员提出RAE(检索触发后的实际使用效应),专门在真正检索到skill的题目上做配对比较,就是为了搞清楚模型到底有没有把搜到的东西用好。搜得准是一回事,用得好才是真本事。

视觉语言模型在极端环境下的表现同样拉胯。有研究搞了个叫TRACE的基准数据集,专门评估火灾后环境里的物体理解。结果不出所料,随着物体烧损程度加重,现有模型的性能直线下降。为了解决这个痛点,研究团队提出了一个特征恢复模块。在冻结主模型的情况下,它能把受损的编码器特征映射回完好状态,检测、材料恢复和功能推理等多项任务都得到了显著改善。

说白了,AGI时代的到来不代表万事大吉。不管是对文本检索链路的精细化评估,还是对受损图像特征的修复,都在告诉我们一件事:大模型的实用化是一场精细活。只有把这些边边角角的能力补齐,AI才算是真正靠谱的生产力工具。