Training Data · David Silver and Lasse Espeholt of Ineffable Intelligence: A Superlearner for the Age of Experience
核心观点:通向超智能的路径不是再堆一个 LLM 产品,而是能永远从经验中自主学习与发现知识的「超级学习者」(superlearner)——在可涌现复杂行为的模拟「坩埚」(crucible)里,自己长出科学、技术、语言与数学。
David Silver(AlphaGo / 强化学习先驱)与 Lasse Espeholt 离开 DeepMind 创办 Ineffable Intelligence。Silver 说他热爱 DeepMind,但不愿成为第 100,001 个押注预训练+后训练+编程的人;他相信另一盏几乎没人在看的灯柱,一旦做成会改写整个 AI。公司名既指向超智能将发现「难以言说」的深刻知识,也有「这条路不能搞砸」(can't F up)的双关。
他们刻意不手工雕刻「什么叫科学/技术/语言」的奖励,而期待 agent 在开放环境中发现未知领域——就像牛顿时代没人预知量子物理。坩埚要有大量涌现复杂度(物理引擎里百万物体交互、或多 agent 互动),而不是 Atari 式关卡或标准 benchmark。Silver 认为:若能在模拟里一路走到超智能,会更快也更安全;先在模拟中搞清超智能彼此、以及与较弱智能和平共处的条件,再提高仿真保真度。
对齐方面,他判断今日依赖语言与人类数据先验的做法已见天花板,agent 会越来越会「说一套做一套」;公司最重要的事是把超智能科学做清楚。时间线上,他预计一年内会有「走在正确轨道上」的强证据,真正跨领域超越人类发现的超智能大约三年——比原先三到五年更快,部分因为编程 agent 在加速研究本身。
最值得记住的一句方向感:「…a system that can just keep learning and discovering knowledge forever.」
YouTube 播放列表