梁文锋这一段 AGI 路线图对于阶梯的描述,一层又一层,只能正着来(LLM—>CoT—>Agent—>持续学习—>自我迭代—>具身智能),不能反着来(也是为什么不能先做具身智能),挺值得看一看的:
「AI 的发展,我们可以理解成它是⼀个阶梯。去年⾛的阶梯是 CoT,就是思维链。因为我们发现,通过思维链的⽅式,可以让智能达到⼀个更⾼的⽔平。通过它⾃⼰思考,可以让这个上限,可以让这个 AI 能做更多的事情。
那么我们⼜跨过了⼀个阶梯。今年的阶梯就是 Agent,因为我们发现,⽤ Agent 的⽅式,即便多有事情也可以做,它的能⼒范围会更⼤,它的智能上限会更⾼。
为什么是阶梯呢?因为后⾯的每⼀步都是基于前⾯的基础上的。Agent 要⽤到 CoT,然后CoT 也要⽤到前⾯的阶梯,前⾯的阶梯就是语⾔模型,所以它并没有⼀步是⽩⾛的。
所以,AI 的发展,智能的⾛向是有迹可循的。说今年⾛的这个阶梯是 Agent,但是 Agent这个阶梯,它也是会⾛完的。就是它把所有可能解决的问题都解决完之后,但是它还是不能替代你的员⼯,但是它已经到它能⼒的上限了。
就好像 CoT ⼀样,CoT 到它的上限之后,它已经超过最顶尖的⼈类了,在做奥数题、写程序上⾯已经超过最顶尖的⼈类了。但是它还是停在那个地⽅,它那个技术并没有能够到达 AGI。
所以你看,AI 这个智能的⾛向,它是有迹可循的。然后在 Agent 之后,我们觉得应该要解决的问题是持续学习,就是怎么让模型可以持续地学习,⽽不是说你要给它⼀个很强的训练,它应该能够像⼈⼀样做⼀个⽐较⻓时间的持续学习。
这个问题跟完成任务等等是同⼀回事,它们相关,解决的是同⼀个问题。我们现在站在 Agent 这个地⽅,能看到的是下⼀个瓶颈,就是持续学习。下⼀个要解决的问题,就是解决怎么持续学习,这个是看得到的,是相对来讲⽐较明确的。
就是卡在前⾯的这个障碍,你必须要跨过去,⽽且⼀定是有办法能跨过去的,但需要时间。持续学习之后,可能我们就会来到⼀个奇点。这个奇点就是,当这个模型能够持续学习之后,它已经能够做⼈类能做的所有事情了。
它就能够⾃⼰开发⾃⼰的版本,能够⾃⼰再研究,然后开发⾃⼰的下⼀个版本,开发更前的⼈⼯智能模型。所以它就会到⼀个奇点,能够实现⾃⼰的迭代。
但这个奇点,它并不是⼀个奇点,它也是⼀个渐进的过程。这个过程可能也是⼀个⽐较⻓的渐变,它不是个突变。但是习惯性地,我们都认为它可能是个奇点。
因为在很早之前,那些预⾔家认为这⾥会有个奇点,但其实它不是⼀个奇点,它是⼀个连续的过程。然后这⼀步⾛完之后,我觉得才是具⾝智能。
这是我们的推测,这是我们觉得这个时间表应该是:先解决学习去学习,然后再到那个智能的奇点,能⾃我迭代的奇点,然后才是具⾝智能。到具⾝智能之后,它就⾛进现实世界,可以给你做家务,可以给你养⽼。
我们觉得这是⼀个⽐较理想的路线图,但每个⼈的观点不⼀样,没有对错之分。只是我们觉得,这个路线图是最轻松的。
这个路线图是因为每⼀步你要做新的都很少。这个路线图我们可以不⽤加班。但是如果路线图是反过来的,⽐如说它要先实现具⾝智能,那么这⾥⾃⼰做得很累,这是⼀个很苦的活。我们不希望是这样的路线图,我们希望做得轻松⼀点。
如果说我们先解决持续学习,再解决那个⾃我迭代的奇点,再解决具⾝智能,这个路上就很轻松。因为到后⾯之后,你可以⽤前⾯的技术来帮助开发后⾯的技术。奇点之后再做具⾝智能,那个就不⽤⼈来做,就不⽤我们来做了,那个模型⾃⼰就可以出来了。
所以这个是回答我们的⻓期⽬标是什么。我就跟他说,这就是我们的⻓期⽬标,就是我们说的 AGI。」