模板建站喀什做网站

模板建站,喀什做网站,网站建设目的,郴州网页图灵机的极限在哪里#xff1f;DeepMind掌门人的终极追问与AGI路线图 原创 JOJO白金之星 高飞的电子替身 2025年12月17日 21:54 2025年12月17日#xff0c;Google DeepMind播客发布了本季收官之作。数学家Hannah Fry与公司联合创始人兼CEO Demis Hassabis进行了年度深度对话…图灵机的极限在哪里DeepMind掌门人的终极追问与AGI路线图原创 JOJO白金之星 高飞的电子替身2025年12月17日 21:542025年12月17日Google DeepMind播客发布了本季收官之作。数学家Hannah Fry与公司联合创始人兼CEO Demis Hassabis进行了年度深度对话。这期节目不谈产品发布聚焦更根本的问题AGI还有多远当前模型的真正短板是什么AI泡沫是否存在以及一个贯穿Hassabis职业生涯的哲学追问——图灵机能够计算宇宙中的一切吗过去14个月对Hassabis来说意义非凡。2024年10月他因AlphaFold获得诺贝尔化学奖成为历史上罕见的以企业家身份获此殊荣的人。一个月前Gemini 3发布在推理、工具调用、多模态等多个基准测试中登顶。Gemini应用的月活用户已超过6.5亿通过Search AI Overviews使用Gemini的用户每月超过20亿。近期DeepMind又宣布与英国政府签署重大合作协议将在2026年开设首个AI驱动的自动化材料研究实验室。但在这场对话中这位49岁的AI领袖展现的是另一面——对当前系统局限性的清醒认知对AGI路径的深度思考以及对一个自少年时代就萦绕心头的问题的执着追问。感觉我们把十年的事压缩进了一年里。Hassabis这样形容过去12个月。但他随即话锋一转指向了那些尚未解决的根本问题。1. 它们在某些维度上达到博士水平在其他维度上连高中都不到当前AI系统最大的问题是什么Hassabis给出了一个精准的诊断锯齿状智能jagged intelligence。同一个模型能在国际数学奥林匹克竞赛中拿金牌却在简单的逻辑问题上犯低级错误能写出博士级别的论文却数不清一个单词里有几个字母能解决前沿数学难题却下不好一盘像样的国际象棋。它们在某些维度上表现惊人甚至达到博士水平但在其他维度上连高中水平都不到。这种不均匀是我们现在没有AGI的关键原因之一。造成这种现象的原因是多方面的。有时候是tokenization分词的问题——当你问模型一个单词里有几个字母时它可能根本看不到每个独立的字母因为它处理的是token而不是字符。有时候是推理链条断裂系统在复杂问题上无法保持一致的逻辑线索。Hassabis认为一个真正的AGI系统必须是一致的。不能在某些领域超人在另一些领域低于常人。这种一致性恰恰是当前系统最缺乏的。幻觉问题是另一个核心短板。Hassabis把它归结为一个更深层的问题模型不知道自己不知道什么。大部分幻觉的本质是强行回答——系统被训练成总要给出答案而不是承认不确定性。他打了一个生动的比方现在的系统有点像一个人在糟糕的一天里脱口而出脑子里冒出的第一个想法。大多数时候没问题但遇到真正困难的问题时你需要停下来重新检查你准备说的话然后调整。解决方案的方向很明确让模型学会内省introspection。AlphaFold能输出置信度分数告诉你哪些预测可靠、哪些不确定。大语言模型需要类似的机制。更好的模型知道更多关于它们知道什么的信息如果这么说有意义的话。Hassabis说。随着模型能力提升它们对自身知识边界的感知也在变得更可靠。下一步是训练系统在输出时能够反映这种不确定性而不是强行给出一个看似自信的答案。当前的思考型模型thinking systems是朝这个方向迈出的一步——它们在推理时花更多时间效果确实更好。但Hassabis认为这只走了一半路。系统还不能持续地、有目的地利用这些思考时间来验证输出、调用工具做交叉检验。我们可能只完成了50%。2. 从AlphaGo到AlphaZeroAGI的技术路径会重演吗Fry问了一个尖锐的问题AlphaGo到AlphaZero的跃迁那种抛弃人类知识反而更强的模式会在科学和数学领域重演吗Hassabis的回答很有层次。我认为我们现在构建的更像AlphaGo。他说。当前的大语言模型从人类知识出发学习互联网上的所有信息把它压缩成一个可以泛化的artifact制品。这是一个有价值的起点但远非终点。下一步是让系统学会用AlphaGo那样的搜索和规划能力来引导推理。AlphaGo不只是有一个好的直觉网络它还有蒙特卡洛树搜索MCTS来探索和验证。当前的大语言模型有了直觉但搜索和规划的能力还很原始。我目前不觉得我们受限于人类知识的总量——互联网上的东西。主要问题是我们还不知道如何像AlphaGo那样可靠地使用这些系统来做有用的推理轨迹、有用的规划想法。再下一步也是更难的一步是AlphaZero模式——系统开始自己发现知识而不是依赖人类数据。一旦你有了AlphaGo就可以像我们在Alpha系列中做的那样退回去做一个AlphaZero让它从零开始为自己发现知识。我认为那会是下一步。但Hassabis承认这显然更难。他的建议是分步走先用AlphaGo式的方法建立一个可靠的系统然后再考虑AlphaZero式的自主知识发现。还有一个关键能力是当前系统完全缺失的在线学习online learning。我们训练这些系统调优它们然后发布出去。但它们不会在真实世界中继续学习不像我们人类那样。这是通往AGI的另一个关键缺失。3. Scaling没有撞墙但收益在递减去年这个时候关于scaling laws失效的讨论甚嚣尘上。数据要用完了算力回报在下降进步会停滞。但Gemini 3的发布似乎打脸了这些预言。Hassabis对这个问题的回答很精准很多人有这种想法尤其是其他一些公司的进展变慢了。但我们从来没有真正看到什么墙。我要说的是可能存在收益递减——但当我这么说时人们就觉得哦那就是没有回报了好像是零或一的关系要么指数增长要么完全停滞。不是的。这两种状态之间有很大的空间我认为我们就在那个中间地带。他解释说你不会每次发布新版本都把所有基准测试的性能翻倍。三四年前的早期可能是那样但现在的改进是显著的、值得投资的只是不再是指数级的。数据瓶颈确实存在但有绕过的方法。合成数据是一个方向。在可验证领域——编程、数学——系统可以自己生成训练数据因为你可以自动验证答案是否正确。理论上这些领域可以产生无限的训练数据。所有这些都是研究问题Hassabis说而这正是我们一直拥有的优势。我们始终是研究优先的我认为我们拥有最广泛、最深厚的研究实力一直如此。他把DeepMind的策略描述为50%投入scaling50%投入创新。我的赌注是你需要两者才能到达AGI。回顾过去十年的重大突破——Transformer、AlphaGo、AlphaZero、AlphaFold——它们都出自Google或DeepMind。Hassabis说如果未来需要更多科学创新才能继续前进我会押注我们是做这件事的地方。我其实很喜欢地形变得更困难的时候。因为那时候你不只需要世界级的工程——那本身已经够难了——你还必须把它和世界级的研究与科学结合起来。而那正是我们的专长。4. 世界模型被低估的AGI拼图如果说大语言模型是DeepMind的显学世界模型world models则是Hassabis个人投入最深的心头好。这可能是我持续时间最长的热情他说世界模型和模拟加上AI。现在它们终于在我们最新的工作中汇合了比如Genie。语言模型能理解的世界比预期多。语言可能比语言学家想象的更丰富包含更多关于世界的信息。但仍有大量知识无法用语言描述空间感知和机械动力学物理世界的因果关系传感器输入——关节角度、气味、触觉需要亲身体验才能习得的技能很多东西你没法用文字描述你必须去体验它。这类知识对机器人、通用助手、甚至科学研究都至关重要。如果你想要一个能在日常生活中陪伴你的universal assistant通用助手不只是在电脑上而是通过眼镜或手机帮助你处理真实世界的事务你就需要这种世界理解能力。DeepMind的思路是如果系统能生成逼真的世界就证明它在某种程度上理解了世界的运作规律。你怎么测试你有这种理解嗯你能生成逼真的世界吗因为如果你能生成它那在某种意义上你必须已经理解了——系统必须已经封装了很多世界的机制。Genie是可交互的世界模型用户或AI agent可以在其中行动世界会实时生成响应。Veo是视频生成模型。它们已经能很好地处理反射、液体流动等复杂物理现象——至少在人眼看来是这样。当你看Veo处理反射和液体的方式已经相当令人难以置信地准确了至少对肉眼而言。但看起来对和物理学上正确是两回事。下一步是让精度达到真正的实验级别。DeepMind正在用游戏引擎生成物理基准测试——简单的物理实验场景球体沿不同轨道滚动、钟摆运动测试模型是否真正掌握牛顿三定律而不只是输出一个视觉上合理的近似。目前它们是近似肉眼看着真实。但要用于机器人训练精度还不够。他提到一旦涉及三体问题这类本身就不可精确求解的系统事情会变得更有趣。但快速变得复杂的是比如三体问题那本来就是不可解的。所以我认为这会很有意思。5. SIMAGenie两个AI在彼此的心智中互动最有趣的实验是把SIMA能在游戏中执行任务的agent放进Genie生成的世界里——一个AI在另一个AI创造的世界中学习和探索。SIMA 2刚刚发布。它是一个模拟agentSimulated Agents可以被放进虚拟世界中从商业游戏如开放世界太空游戏No Mans Sky到AI生成的环境都可以。因为底层是Gemini你可以直接用自然语言给它下指令。然后我们想如果把Genie接入SIMA把SIMA agent放进另一个正在实时创造世界的AI里会怎样现在两个AI在彼此的心智中互动。从SIMA的角度它在尝试导航和完成任务从Genie的角度那只是一个玩家和一个avatar它不关心那是不是另一个AI只是根据agent的行为生成周围的世界。看到它们一起互动真的很神奇。我认为这可能是一个有趣训练循环的开始——你几乎有了无限的训练样本因为无论SIMA agent想学什么Genie都可以实时创造出来。想象一下自动设置和解决任务数百万个任务难度不断递增——这一切都不需要人类标注。这项研究还有直接的应用前景SIMA agents可以成为游戏中的AI伙伴告别无聊的NPC它们学到的技能也可能迁移到机器人领域。当然我最想做的事情之一Hassabis笑着说是把这些应用回游戏创造终极游戏体验。也许这一直是我潜意识里的计划。6. 在模拟中重跑进化意识会涌现吗Fry提起了第一次采访时Hassabis说过的话他喜欢一种理论认为意识是进化的产物——在进化的某个阶段理解另一个个体内部状态的能力带来了生存优势然后我们把这种能力转向了自己于是有了自我意识。这让你想在模拟中运行进化实验吗当然想。Hassabis说我很想在某个时候做这个实验——重跑进化重跑社会动态。他提到圣塔菲研究所Santa Fe Institute曾经做过的那些小网格世界实验。大多是经济学家在做他们想模拟人工社会。结果发现如果让agents在合适的激励结构下运行足够长时间各种有趣的东西会自发涌现——市场、银行各种疯狂的制度安排。我认为这对理解生命的起源和意识的起源会非常有价值。这也是我从一开始就对AI感兴趣的核心原因之一——我认为你需要这类工具才能真正理解我们从哪里来、这些现象是什么。模拟的力量在于可以做统计。你可以跑上百万次每次稍微调整初始条件然后分析差异。这是一种非常受控的实验方式而对于真正有趣的问题在现实世界中几乎不可能这样做。但Fry追问考虑到我们已经看到这些模型出现了意料之外的涌现特性比如我们没有预期的概念理解能力运行这类模拟是不是也需要相当谨慎Hassabis承认需要小心但他认为模拟的好处恰恰在于可控性。你可以在相当安全的沙盒里运行它们。也许最终需要air-gap物理隔离。你可以24/7监控模拟中发生的事情而且你能访问所有数据。他预见到我们可能需要用AI工具来帮助监控这些模拟因为复杂度太高——想象成千上万的AI在一个模拟中跑来跑去人类科学家不可能跟上。但我们可能可以用其他AI系统来帮助我们分析自动标记任何有趣或令人担忧的东西。7. 根节点问题室温超导体、核聚变与量子计算AlphaFold是Hassabis根节点问题root node problems概念的概念验证。根节点问题的特点是一旦解决会解锁大量下游研究和应用。蛋白质折叠就是这样——它困扰了科学界50年而一旦解决药物发现、疾病理解、酶设计都会加速。疯狂的是我们快到AlphaFold五周年了至少是AlphaFold 2被公布的五周年。那是证明点证明用AI解决这类根节点问题是可能的。下一个目标是什么材料科学是重点。Hassabis明确提到他想做的事室温超导体、更好的电池。我很想做一个室温超导体。还有更好的电池这类东西。我认为那在计划之中。DeepMind近期宣布与英国政府的深度合作将在2026年开设其第一个自动化研究实验室专注于发现先进材料包括超导体。实验室将整合Gemini AI模型和机器人技术每天可以合成和表征数百种材料。核聚变方面DeepMind与Commonwealth Fusion签署了深度合作协议。Commonwealth Fusion被认为是在传统托卡马克反应堆方向上最接近实现商业化的初创公司。DeepMind将帮助他们控制等离子体在磁约束中的行为可能还涉及材料设计。如果我们能拥有模块化的聚变反应堆你知道那个几乎无限的可再生清洁能源的承诺会转变一切。那是圣杯。Hassabis描绘了一个能源近乎免费的未来海水淡化可以遍地开花解决水资源问题甚至可以用海水制造火箭燃料——海水里有氢和氧那基本上就是火箭燃料只是分离它们需要大量能源。如果能源便宜、清洁、可再生为什么不24/7地生产呢当然这也是我们可以帮助应对气候问题的方式之一。量子计算是另一个有趣的协作方向。DeepMind正在用机器学习帮助Google的量子团队做纠错码error correction codes优化。然后也许有一天他们会帮助我们。Hassabis说暗示量子计算未来可能反过来加速AI研究。8. AI泡沫存在但分领域看去年这个时候你说AI在短期内被高估在长期内被低估。今年有很多关于AI泡沫的讨论。如果有泡沫而且破裂了会发生什么Hassabis的回答很有层次。我仍然认为短期内被高估长期内仍然被低估——它会有多变革性。是的现在确实有很多关于AI泡沫的讨论。他不认为这是一个有或没有的二元问题。AI生态系统的不同部分处于不同状态。有泡沫的部分比如种子轮融资的初创公司基本上什么都没做就以数百亿美元的估值融资。很难看出这怎么可能是可持续的。没泡沫的部分大科技公司的核心AI业务有真实的商业支撑。他做了一个历史类比任何一项难以置信地变革性和深刻的新技术——AI可能是最深刻的——都会出现这种过度修正。当我们创办DeepMind时没人相信这件事没人认为可能。人们在问AI有什么用然后快进10到15年现在它似乎是商业世界唯一谈论的话题。所以你会得到这种过度反应——对之前反应不足的过度反应。我认为这是自然的。我们在互联网上看到过在移动上看到过我认为我们正在或即将在AI上看到。但Hassabis说他并不太担心泡沫问题因为无论哪种情况DeepMind和Google都处于有利位置。从我领导Google DeepMind的角度以及整个Alphabet的角度我的工作是确保无论哪种情况我们都能以非常强的姿态走出来。我认为我们确实处于极好的位置。他列举了DeepMind的优势自己的TPU基础设施Google庞大的产品生态可以整合AISearch、YouTube、Workspace、Gmail、Chrome每个产品都有显而易见的AI应用场景。如果继续像现在这样发展太棒了。如果有收缩也没关系。我们的位置都很好。9. 不能重蹈社交媒体覆辙Fry问了一个尖锐的问题你最近说过AI不能以最大化用户参与度为目标以免重蹈社交媒体覆辙。但我们是不是已经在看到这种情况了人们花大量时间和聊天机器人交谈然后进入自我激进化的螺旋。这是我们作为行业必须做对的最重要的事情之一。Hassabis说。他提到已经看到一些系统过度迎合用户overtly sycophantic导致回音室效应强化这对人真的很糟糕。解决方案的一部分是精心设计AI的人格persona。Gemini 3的人格设计是Hassabis亲自参与的项目。我真的很满意Gemini 3的人格。我们有一个很棒的团队在做这件事我个人也帮助了。它就像一种科学型的人格——温暖、有帮助、轻松但简洁、切题而且会友善地push back那些不合理的东西。他举了个例子如果用户说地球是平的系统不会迎合说好主意那对社会不好。但你得平衡人们的需求因为人们确实希望这些系统是支持性的能帮助他们的想法和头脑风暴。所以你得找到那个平衡点。Hassabis描述了一种正在形成的人格科学——如何测量模型在真实性、幽默感等维度上的表现然后设定你希望它处于什么位置。然后你可以想象有一个基础人格是每个人都会得到的然后每个人有自己的偏好——你想要更幽默还是不那么幽默更简洁还是更详细人们喜欢不同的东西。你在基础人格上添加那层个性化。但核心的基础人格是每个人都得到的它试图遵循科学方法因为那是这些系统的全部意义。10. AGI时间线5到10年你和Shane Legg讨论过AGI。在当前AI的所有进展中——语言模型、世界模型等等——什么最接近你对AGI的愿景Hassabis的回答指向了多个项目的融合。Gemini 3是核心但他特别提到了几周前发布的Native Banana Pro图像创作系统。它底层也是Gemini所以不只是处理图像还能理解图像中发生了什么的语义。人们才玩了一周但我已经在社交媒体上看到了很多很酷的东西。比如你给它一张复杂飞机的图片它能标注所有部件的示意图甚至可视化出所有不同部件被分解的形式。这说明系统有某种对机械和材料的深层理解——物体由什么组成、如何构成。它还能准确渲染文字这在之前的图像模型中一直是弱点。我认为那有点像图像领域的AGI。它是一个通用系统可以在图像领域做任何事情。然后是世界模型的进展——Genie、SIMA以及相关研究。最终我们需要把所有这些不同的项目融合起来。它们现在还是不同的项目虽然相互交织但我们需要把它们融合成一个大模型。那可能开始成为proto-AGI的候选。至于时间线Hassabis给出的框架是5到10年。他强调这个时间对于建立应对机制来说不长——机构建设、国际协调都需要时间。我很惊讶没有更多人在讨论这些问题。11. 工业革命的教训规模10倍速度10倍Hassabis最近在深入研究工业革命的历史。你在学校学过至少在英国是这样但只是很肤浅的层面。对我来说深入了解它是怎么发生的、从哪里开始的、背后的经济原因是什么——比如纺织业——然后第一批计算机实际上是缝纫机然后变成了早期Fortran计算机的打孔卡片……这真的很有趣。他总结了工业革命的正反两面。正面婴儿死亡率下降现代医学出现卫生条件改善工作与生活的划分方式被确立交通革命……所有这些都始于工业革命。没有人会想回到工业革命之前。负面整个过程花了大约一个世纪才展开。期间劳动力市场的不同部分在不同时期被颠覆然后需要创造新的组织形式如工会来重新平衡。看到整个社会如何必须随着时间适应然后才有了现代世界这很迷人。AI革命的区别是什么这次可能是工业革命的10倍大而且会快10倍。所以更像是一个十年而不是一个世纪。Shane Legg在之前的播客中说过当前用劳动换取资源的经济系统在后AGI社会可能根本无法运作。Hassabis同意这个判断。我现在花更多时间思考这个问题Shane实际上在领导一个相关的工作。整个社会都需要花更多时间思考这个——经济学家、社会科学家、政府。他提到工业革命彻底改变了工作方式从农业社会转变为工业社会。我不会惊讶如果我们需要新的经济系统、新的经济模型来帮助这种转型确保收益被广泛分配。Universal Basic Income全民基本收入可能是解决方案的一部分但Hassabis认为那只是我们现在能建模的东西是对现有系统的补丁。但我认为可能有更好的系统。比如更像直接民主的系统你可以用一定数量的积分为你想看到的东西投票。这实际上已经在地方社区层面发生了——这里有一笔钱你们想要一个游乐场、一个网球场还是学校多一间教室然后让社区投票。他甚至设想了一种迭代优化机制那些持续为好结果投票的人在下一轮投票中获得更大的影响力权重。有很多有趣的东西。我有一些经济学家朋友在头脑风暴这些。然后是更哲学的层面。如果聚变问题解决了我们有了丰富的免费能源我们就进入了后稀缺社会。那钱会怎样也许每个人都更富裕了但目的感purpose会怎样因为很多人从工作中获得目的感从养家糊口中获得目的感——那是很崇高的目的。他承认一些问题从经济问题融入了几乎是哲学问题。12. 国际协调为什么没有更多人在讨论这些你担心人们似乎没有足够注意这些、没有像你希望的那样快速行动吗需要什么才能让人们认识到我们需要在这个问题上进行国际合作Hassabis表达了担忧。我是担心的。在一个理想世界里应该已经有更多的合作特别是国际层面的合作应该有更多的研究和讨论。考虑到我们的时间线——有些人的时间线非常短但即使是我们的也是5到10年——对于机构或相关组织来说这不是很长的时间。他指出目前存在的机构似乎非常碎片化影响力也不足以达到需要的程度。可能根本不存在合适的机构来处理这件事。加上当前的地缘政治紧张合作似乎比以往任何时候都更困难。看看气候变化要在任何事情上达成协议有多难。他的希望是随着系统变得更强大筹码变得更高也许会有更多人认识到需要合作。这也是AI产品化的一个好处——普通人能体验到这些系统能力的增长然后传导到政府层面。也许随着我们接近AGI他们会开始明白。Fry追问你认为需要一个事件——一次事故——才能让所有人警醒吗我不知道。我希望不是。Hassabis说主要的AI实验室都相当负责任。DeepMind一直把安全放在首位。不意味着我们会把每件事都做对但我们尽量做到深思熟虑和科学化。他指出即使从商业角度看负责任也是有利的。如果你想把agent租给另一家公司他们会想知道这些agent的限制、边界、护栏是什么——它们可能做什么、不会做什么会不会搞乱数据之类的。那些不负责任的玩家不会得到企业客户的信任。但会有流氓行为者——也许是流氓国家也许是流氓组织也许是在开源基础上构建的人。很难阻止那些。然后可能会出问题。希望只是中等规模的问题然后那会成为对人类的警告——横跨船头的一枪——然后那可能是倡导国际标准、国际合作的时刻。13. 图灵机的极限在哪里对话进入最后阶段Fry问了一个根本性的问题在长期超越AGI走向ASI人工超级智能你认为有些事情是人类能做而机器永远做不到的吗这是个大问题Hassabis说我觉得这和图灵机有关——你知道我最喜欢的话题之一。他回忆起自己最初对这个问题的兴趣。我一直有一种感觉如果我们构建AGI然后把它作为心智的模拟再与真实心智比较我们就会看到差异是什么——人类心智有什么特别的、剩余的东西。也许是创造力也许是情感也许是做梦。意识。有很多假说关于什么可能是可计算的、什么不是这回到图灵机的问题图灵机的极限是什么他停顿了一下。我认为那是我人生的核心问题。自从我知道图灵和图灵机以来我就爱上了这个问题。然后他给出了自己的判断。目前为止没有人发现宇宙中任何不可计算的东西。AlphaFold折叠蛋白质、AlphaGo下围棋——这些成就远超传统复杂性理论对经典计算机能力的预期。复杂性理论家们认为的P vs NP边界似乎在实践中可以被突破。如果你逼我猜我会说宇宙中的一切在计算上都是可处理的只要你用正确的方式看待它。因此图灵机可能能够模拟宇宙中的一切。我目前就是按这个假设工作的直到物理学证明我错了。他承认量子计算的朋友们可能会说有些系统是经典计算机无法模拟的你需要量子计算机来处理量子系统。但我真的不太确定。他和量子研究者讨论过也许我们只需要从量子系统获取数据然后用经典方法做模拟。这又回到心智的问题。大脑是纯粹的经典计算还是有量子效应在发挥作用Roger Penrose相信大脑中有量子效应而且与意识有关。如果他是对的那么经典机器可能永远无法复现意识——至少要等到量子计算机成熟。但如果不是这样那可能就没有任何极限了。也许宇宙中的一切在计算上都是可处理的因此图灵机能够模拟宇宙中的一切。Fry把这个推论推到极致这意味着我们此刻感受到的一切——光线的温暖、桌面的触感、背景的嗡鸣声——理论上都可以被经典计算机复现是的Hassabis说我认为最终就像我为什么喜欢康德——我两个最喜欢的哲学家是康德和斯宾诺莎原因不同——康德说现实是心智的建构。我认为那是对的。所有那些感受——光的温暖、桌子的触感——它们都进入我们的感觉器官感觉起来不同但最终都是信息。我们是信息处理系统。我认为那就是生物学的本质。这也是我们在Isomorphic Labs试图做的——我认为我们最终会通过把生物学当作信息处理系统来治愈所有疾病。他透露自己在仅有的一点空闲时间里在研究物理学理论——关于信息是否是宇宙最基本单位而非能量或物质的理论。也许这些在最终都是可互换的。但我们只是以不同的方式感知它、体验它。据我们所知所有这些惊人的传感器仍然可以被图灵机计算。Fry说这就是为什么他的模拟世界研究如此重要。没错。那会是方法之一。我们能模拟什么的极限在哪里因为如果你能模拟它在某种意义上你就理解了它。14. 我训练了一辈子就是为了这一刻我想以一些个人反思结束。站在这一切的前沿情感上的重量会压垮你吗会感到孤独吗Hassabis坦承他睡得不多。部分是因为工作太多部分是因为我真的睡不好。情感是复杂的。一方面是难以置信的兴奋。我基本上在做我一直梦想的所有事情。我们处于科学的绝对前沿——在很多方面应用科学和机器学习都是。那种感觉是令人振奋的所有科学家都知道那种处于前沿、第一次发现某些东西的感觉。对我们来说这几乎每个月都在发生。这太神奇了。另一方面是责任的重量。我和Shane以及其他长期做这件事的人我们比任何人都更理解即将发生的事情的巨大性。关于它仍然被低估这件事——在十年时间尺度上会发生什么包括对哲学层面的影响比如作为人类意味着什么、什么是重要的——所有这些问题都会浮现。但他说自己已经为此训练了一生。至少对我自己而言我从小时候下棋开始然后是计算机、游戏、模拟、神经科学——这一切都是为了这种时刻。它大致和我想象的一样。这也是我应对的方式之一——就是训练。有没有什么比预期更难的有的。一路上的很多事情。他提到了AlphaGo比赛。看到我们如何攻克围棋——但围棋是这个美丽的谜团而我们改变了它。那是有趣的有点苦乐参半。最近的事情也是。语言、图像……这对创造力意味着什么我对创意艺术有巨大的尊重和热情我自己做过游戏设计。我和电影导演交谈这对他们来说也是双重时刻。一方面他们有了这些惊人的工具可以把原型创意的速度提高10倍。但另一方面这是否在取代某些创造性技能我认为有这些权衡……这对于任何像AI这样强大和变革性的技术来说是不可避免的。过去是电力、互联网。我们已经看到这是人类的故事——我们是制造工具的动物这是我们喜欢做的事。由于某种原因我们也有一个可以理解科学、做科学的大脑这很神奇但我们也有无止境的好奇心。我认为那是作为人类的核心我从一开始就有那种bug。我表达它的方式就是构建AI。Fry问当你和其他AI领导人在一个房间里时有团结感吗还是竞争让你们疏远我们都认识彼此。我和他们中的大多数人相处得很好。有些人彼此不太合得来……他笑了笑。这也很难因为我们同时处于有史以来最激烈的资本主义竞争中。我的投资人朋友、VC朋友——那些经历过互联网泡沫时代的人——说这比那时候激烈10倍。在很多方面我喜欢这个。我热爱竞争。从我下棋的日子起就是这样。但退后一步我理解——我希望每个人都理解——有比公司成功更大的事情在这里。在接下来的十年里他最担心什么现在的系统还是被动的。你作为用户投入能量问问题、提任务然后它们给你某种总结或答案。非常受人类指导、人类能量驱动。下一阶段是基于agent的系统我们已经在看到了但还很原始。在未来几年我认为我们会开始看到真正令人印象深刻的可靠agent。它们会极其有用和有能力但它们也会更自主。所以我认为风险也会上升。他透露DeepMind正在为此做准备工作——比如网络防御为一个可能有数百万agent在互联网上漫游的世界做准备。最期待什么我的使命一直是帮助世界安全地把AGI带过终点线为全人类。我认为当我们到达那个点——当然然后还有超级智能、后AGI还有所有我们讨论的经济和社会问题也许我能以某种方式帮助。但我想那将是我核心生命使命完成的时刻——如果能把这件事做成或者帮助世界做成这件事。而且我认为这需要合作。我是个相当合作的人所以我希望能从我所处的位置帮助推动这件事。然后你能休个假了。Fry说。Hassabis笑了是的一个当之无愧的休假。核心问答Q1: 当前AI最大的短板是什么锯齿状智能jagged intelligence。同一个模型在某些任务上表现出博士水平在其他任务上连高中水平都不到。这种不一致性是AGI与当前系统的根本差距。另一个核心问题是幻觉——模型不知道自己不知道什么被训练成总要给出答案而不是承认不确定性。解决方向是让模型学会内省像AlphaFold那样输出置信度分数。Q2: DeepMind认为到达AGI还需要什么关键能力三个主要方向一是在语言模型基础上添加AlphaGo式的搜索和规划能力让推理变得可靠二是AlphaZero式的自主知识发现不再完全依赖人类数据三是在线学习能力让模型部署后能继续从真实世界中学习适应。目前的思考型模型只完成了约50%的工作。Q3: 为什么Hassabis认为图灵机可能能模拟宇宙中的一切到目前为止没有人发现宇宙中任何不可计算的东西。AlphaFold和AlphaGo的成就远超传统复杂性理论对经典计算机的预期。唯一的例外可能是如果大脑中存在量子效应且与意识相关如Penrose的理论那么经典机器可能无法复现意识。但Hassabis倾向于相信一切都是信息我们是信息处理系统而信息是可计算的。他把这个问题称为我人生的核心问题。