来源：混沌巡洋舰
本文源于塔勒布的一则推文
其中提到的图如下所示：
接下来是Deepseek V3 对该图给出的详解
人工通用智能(AGI)的本质
人工通用智能(Artificial General Intelligence)代表着具有人类水平流体智能的AI系统，其核心特征包括三个方面：
从新经验中学习的能力：不同于当前AI系统需要大规模静态数据集进行训练，AGI应当能够像人类一样从连续流动的体验中实时学习。例如，一个儿童通过几次跌倒就能学会平衡自行车，而当前最先进的机器人可能需要数百万次的模拟训练才能掌握类似技能。
适应性智能：AGI需要具备根据环境变化动态调整认知策略的能力。这类似于人类在面对陌生城市时能够综合运用地图、路标询问和试错等不同策略找到目的地，而非依赖单一固定的问题解决模式。
知识迁移应用：真正的通用智能体现在能够将某一领域获得的知识灵活应用于完全不同的新情境。典型例子如数学家冯·诺伊曼将博弈论应用于经济学和军事战略，展示了人类智能的跨领域迁移能力。
这些特质共同构成了"通用智能"的本质，也是当前LLM与真正智能之间存在的主要差距。值得注意的是，AGI不需要在所有认知任务上超越人类，但必须具备这种适应性和灵活性。
大型语言模型的兴起与"涌现能力"现象
近年来，LLM发展呈现出明显的规模扩大趋势。从GPT-3的1750亿参数到当前某些模型的万亿级规模，研究者们观察到了一个引人注目的现象——涌现能力(emergent abilities)。这些能力指在模型规模超过某个临界点时，系统突然表现出训练目标中未明确编程的才能，如：
数学推理：尽管没有专门训练数学证明，大型模型能够解决一定复杂度的数学问题
代码生成：能够根据自然语言描述写出功能正确的程序代码
跨语言翻译：即使没有明确的双语对齐数据，也能实现一定质量的翻译
这些"意外"能力的出现引发了AI社区的极大热情，也催生了"通过持续扩大规模可能实现AGI"的乐观假设。OpenAI首席科学家Ilya Sutskever曾提出"规模就是一切"的观点，反映了这种思潮。
然而，这种观点忽略了关键一点：这些涌现能力本质上仍是统计模式的复杂表达，而非真正的理解或推理。当测试用例超出训练数据分布时，这些能力往往会戏剧性崩溃。例如，LLM可能在简单算术上表现良好，但当问题以不常见的形式呈现时(如使用罕见词汇描述数学问题)，其表现会显著下降。
LLM架构的深层约束
要理解为什么单纯扩大规模无法实现AGI，必须深入分析LLM的基本架构限制。LLM的核心是一个基于Transformer的自回归模型，其工作流程可简化为以下步骤：
输入处理：将文本分割为token(可能是单词或子词单元)
嵌入表示：通过查找表将每个token映射为高维向量
Transformer处理：通过自注意力机制计算token间关系，多层堆叠逐步细化表示
概率计算：基于上下文对所有可能的下一个token进行评分(softmax归一化)
输出选择：通常选择最高概率token，有时引入随机性增加多样性
这一流程虽然能产生流畅文本，但揭示了LLM的几个根本限制：
1. 前馈架构与不可逆处理
LLM的单向生成机制使其无法像人类那样进行迭代式思考。人类写作时会不断回顾、修改前面的内容，而LLM一旦生成token就无法撤回或修正。这种"一次通过"的特性限制了深度推理能力。例如，当解决复杂数学问题时，人类会反复检查中间步骤，而LLM只能线性前进，容易累积错误。
2. 固定上下文窗口
所有LLM都存在上下文长度限制，无论是早期的2048token还是现代模型的128k窗口。这导致两个关键问题：
长期依赖丢失：无法维持超长文本中的一致性，如小说创作中保持角色特征
信息选择压力：当输入超过窗口大小时，必须决定保留哪些信息，这一过程往往基于简单启发式而非真正理解
3. 缺乏世界模型与浅层推理
最根本的限制在于LLM缺乏对物理和社会世界的内部模拟能力。人类依靠丰富的感觉运动经验建立了关于物体持久性、重力作用、社会规范等基本概念，而LLM仅通过文本统计来近似这些知识。这导致：
常识推理薄弱：无法理解"如果我把手机放进搅拌机，它会坏掉"这类基于物理常识的陈述
反事实想象有限：难以系统性地探讨与训练数据分布偏离的情境
因果理解表面：只能识别文本中的统计关联，而非真正的因果关系
认知科学家斯坦尼斯拉斯·迪昂指出："理解不是模式识别，而是模型构建。"这正是LLM与人类智能的本质区别。
架构约束的后果表现
这些底层限制在实际应用中表现为几个关键缺陷：
知识僵化：LLM无法像人类那样持续更新和验证知识。当提供新信息时，它们不会真正"学习"，只是在当前上下文中调整输出。例如，告知LLM"地球是平的"只会影响当前对话，而不会改变其底层知识表示。
组合泛化失败：人类能够将基本概念组合创新解决新问题，如将"冰"和"船"组合理解"破冰船"。LLM在这种组合创新上表现不稳定，尤其是面对新颖组合时。
领域迁移困难：真正的智能体现在能够将某领域的洞见应用于另一领域。LLM虽然能生成跨领域文本，但这种"迁移"往往只是表面语言风格的模仿，而非深层次的原则应用。
情境理解局限：无法根据非语言线索(如对话发生的物理环境、参与者的表情语调)调整理解。人类对话中，这些副语言信息承载了大量意义。
通向AGI的可能路径
如果单纯扩大规模无法实现AGI，那么什么方向可能带来突破？当前研究界正在探索几条有前景的路径：
1. 混合架构系统
结合符号推理与神经计算的混合系统可能克服纯神经网络的局限。例如：
神经符号系统：使用神经网络处理感知输入，符号引擎负责逻辑推理
模块化设计：将不同认知功能(记忆、推理、感知)分配给专门子系统
2. 具身认知与多模态学习
通过物理具身或模拟环境让AI获得感觉运动经验，可能是构建世界模型的关键。例如：
机器人学习：在真实或虚拟环境中通过交互学习物理规律
多模态训练：整合视觉、听觉、触觉等多感官输入，建立更丰富的世界表示
3. 动态记忆与持续学习
开发能够长期保持并动态更新知识的记忆系统：
可扩展记忆：突破固定上下文窗口的限制
记忆巩固机制：模仿人类的睡眠记忆重组过程
4. 元学习与认知架构
设计能够自我改进基础认知过程的系统：
学习算法：不仅学习内容，还优化自身的学习方式
注意力控制：动态分配计算资源，模仿人类的注意力机制
结论：超越规模幻象
LLM的快速发展无疑推动了AI领域的进步，但将这种进步等同于通向AGI的道路是一种危险的简化论。真正的通用智能需要突破当前架构的根本限制，发展出具有世界模型、深层推理和持续学习能力的系统。
正如深度学习先驱Yoshua Bengio所言："我们需要的不是更大的模型，而是更好的学习原则。"未来AGI研究应当更加关注如何实现知识的灵活组合、因果推理和情境理解，而非单纯追求参数量的增长。这需要跨学科的协作，整合认知科学、神经科学和计算机科学的最新洞见。
规模扩大或许能带来更流畅的对话代理，但真正的智能革命将来自架构创新而非规模膨胀。理解这一区别，对于合理规划AI研究方向和资源分配至关重要。
阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”
https://wx.zsxq/group/454854145828
未来知识库是“欧米伽未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https://wx.zsxq/group/454854145828 进入。
截止到3月31日 ”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）
牛津未来研究院 《将人工智能安全视为全球公共产品的影响、挑战与研究重点》
麦肯锡：超级智能机构：赋能人们释放人工智能的全部潜力
AAAI 2025 关于人工智能研究未来研究报告
斯坦福：2025 斯坦福新兴技术评论：十项关键技术及其政策影响分析报告（191 页）
壳牌：2025 能源安全远景报告：能源与人工智能（57 页）
盖洛普 & 牛津幸福研究中心：2025 年世界幸福报告（260 页）
Schwab ：2025 未来共生：以集体社会创新破解重大社会挑战研究报告（36 页）
IMD：2024 年全球数字竞争力排名报告：跨越数字鸿沟人才培养与数字法治是关键（214 页）
DS 系列专题：DeepSeek 技术溯源及前沿探索，50 页 ppt
联合国人居署：2024 全球城市负责任人工智能评估报告：利用 AI 构建以人为本的智慧城市（86 页）
TechUK：2025 全球复杂多变背景下的英国科技产业：战略韧性与增长路径研究报告（52 页）
NAVEX Global：2024 年十大风险与合规趋势报告（42 页）
《具身物理交互在机器人 - 机器人及机器人 - 人协作中的应用》122 页
2025 - 2035 年人形机器人发展趋势报告 53 页
Evaluate Pharma：2024 年全球生物制药行业展望报告：增长驱动力分析（29 页）
【AAAI2025 教程】基础模型与具身智能体的交汇，350 页 ppt
Tracxn：2025 全球飞行汽车行业市场研究报告（45 页）
谷歌：2024 人工智能短跑选手（AI Sprinters）：捕捉新兴市场 AI 经济机遇报告（39 页）
【斯坦福博士论文】构建类人化具身智能体：从人类行为中学习
《基于传感器的机器学习车辆分类》最新 170 页
美国安全与新兴技术中心：2025 CSET 对美国人工智能行动计划的建议（18 页）
罗兰贝格：2024 人形机器人的崛起：从科幻到现实：如何参与潜在变革研究报告（11 页）
兰德公司：2025 从研究到现实：NHS 的研究和创新是实现十年计划的关键报告（209 页）
康桥汇世（Cambridge Associates）：2025 年全球经济展望报告（44 页）
国际能源署：2025 迈向核能新时代
麦肯锡：人工智能现状，组织如何重塑自身以获取价值
威立（Wiley）：2025 全球科研人员人工智能研究报告（38 页）
牛津经济研究院：2025 TikTok 对美国就业的量化影响研究报告：470 万岗位（14 页）
国际能源署（IEA）：能效 2024 研究报告（127 页）
Workday ：2025 发挥人类潜能：人工智能（AI）技能革命研究报告（20 页）
CertiK：Hack3D：2024 年 Web3.0 安全报告（28 页）
世界经济论坛：工业制造中的前沿技术：人工智能代理的崛起》报告
迈向推理时代：大型语言模型的长链推理研究综述
波士顿咨询：2025 亚太地区生成式 AI 的崛起研究报告：从技术追赶者到全球领导者的跨越（15 页）
安联（Allianz）：2025 新势力崛起：全球芯片战争与半导体产业格局重构研究报告（33 页）
IMT：2025 具身智能（Embodied AI）概念、核心要素及未来进展：趋势与挑战研究报告（25 页）
IEEE：2025 具身智能（Embodied AI）综述：从模拟器到研究任务的调查分析报告（15 页）
CCAV：2025 当 AI 接管方向盘：自动驾驶场景下的人机交互认知重构、变革及对策研究报告（124 页）
《强化学习自我博弈方法在兵棋推演分析与开发中的应用》最新 132 页
《面向科学发现的智能体人工智能：进展、挑战与未来方向综述》
全国机器人标准化技术委员会：人形机器人标准化白皮书（2024 版）（96 页）
美国国家科学委员会（NSB）：2024 年研究与发展 - 美国趋势及国际比较（51 页）
艾昆纬（IQVIA）：2025 骨科手术机器人技术的崛起白皮书：创新及未来方向（17 页）
NPL&Beauhurst：2025 英国量子产业洞察报告：私人和公共投资的作用（25 页）
IEA PVPS：2024 光伏系统经济与技术关键绩效指标（KPI）使用最佳实践指南（65 页）
AGI 智能时代：2025 让 DeepSeek 更有趣更有深度的思考研究分析报告（24 页）
2025 军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告（37 页）
华为：2025 鸿蒙生态应用开发白皮书（133 页
《超级智能战略研究报告》
中美技术差距分析报告 2025
欧洲量子产业联盟（QuIC）：2024 年全球量子技术专利态势分析白皮书（34 页）
美国能源部：2021 超级高铁技术（Hyperloop）对电网和交通能源的影响研究报告（60 页）
罗马大学：2025 超级高铁（Hyperloop）：第五种新型交通方式 - 技术研发进展、优势及局限性研究报告（72 页）
兰德公司：2025 灾难性网络风险保险研究报告：市场趋势与政策选择（93 页）
GTI：2024 先进感知技术白皮书（36 页）
AAAI：2025 人工智能研究的未来报告：17 大关键议题（88 页）
安联 Allianz2025 新势力崛起全球芯片战争与半导体产业格局重构研究报告
威达信：2025 全球洪水风险研究报告：现状、趋势及应对措施（22 页）
兰德公司：迈向人工智能治理研究报告：2024EqualAI 峰会洞察及建议（19 页）
哈佛商业评论：2025 人工智能时代下的现代软件开发实践报告（12 页）
德安华：全球航空航天、国防及政府服务研究报告：2024 年回顾及 2025 年展望（27 页）
奥雅纳：2024 塑造超级高铁（Hyperloop）的未来：监管如何推动发展与创新研究报告（28 页）
HSOAC：2025 美国新兴技术与风险评估报告：太空领域和关键基础设施（24 页）
Dealroom：2025 欧洲经济与科技创新发展态势、挑战及策略研究报告（76 页）
《无人机辅助的天空地一体化网络：学习算法技术综述》
谷歌云（Google Cloud）：2025 年 AI 商业趋势白皮书（49 页）
《新兴技术与风险分析：太空领域与关键基础设施》最新报告
150 页！《DeepSeek 大模型生态报告》
军事人工智能行业研究报告：技术奇点驱动应用加速智能化重塑现代战争形态 - 250309（40 页）
真格基金：2024 美国独角兽观察报告（56 页）
璞跃（Plug and Play）：2025 未来商业研究报告：六大趋势分析（67 页）
国际电工委员会（IEC）：2025 智能水电技术与市场展望报告（90 页）
RWS：2025 智驭 AI 冲击波：人机协作的未来研究报告（39 页）
国际电工委员会（IEC）：2025 智能水电技术与市场展望报告（90 页）
RWS：2025 智驭 AI 冲击波：人机协作的未来研究报告（39 页）
未来今日研究所 2025 年科技趋势报告第 18 版 1000 页
模拟真实世界：多模态生成模型的统一综述
中国信息协会低空经济分会：低空经济发展报告（2024 - 2025）（117 页）
浙江大学：2025 语言解码双生花：人类经验与 AI 算法的镜像之旅（42 页）
人形机器人行业：由 “外” 到 “内” 智能革命 - 250306（51 页）
大成：2025 年全球人工智能趋势报告：关键法律问题（28 页）
北京大学：2025 年 DeepSeek 原理和落地应用报告（57 页）
欧盟委员会 人工智能与未来工作研究报告
加州大学伯克利分校：面向科学发现的多模态基础模型：在化学、材料和生物学中的应用
电子行业：从柔性传感到人形机器人触觉革命 - 250226（35 页）
RT 轨道交通：2024 年中国城市轨道交通市场数据报告（188 页）
FastMoss：2024 年度 TikTok 生态发展白皮书（122 页）
Check Point：2025 年网络安全报告 - 主要威胁、新兴趋势和 CISO 建议（57 页）
【AAAI2025 教程】评估大型语言模型：挑战与方法，199 页 ppt
《21 世纪美国的主导地位：核聚变》最新报告
沃尔特基金会（Volta Foundation）：2024 年全球电池行业年度报告（518 页）
斯坦福：2025 斯坦福新兴技术评论：十项关键技术及其政策影响分析报告（191 页）
国际科学理事会：2025 为人工智能做好国家研究生态系统的准备 - 2025 年战略与进展报告（英文版）（118 页）
光子盒：2025 全球量子计算产业发展展望报告（184 页）
奥纬论坛：2025 塑造未来的城市研究报告：全球 1500 个城市的商业吸引力指数排名（124 页）
Future Matters：2024 新兴技术与经济韧性：日本未来发展路径前瞻报告（17 页）
《人类与人工智能协作的科学与艺术》284 页博士论文
《论多智能体决策的复杂性：从博弈学习到部分监控》115 页
《2025 年技术展望》56 页 slides
大语言模型在多智能体自动驾驶系统中的应用：近期进展综述
【牛津大学博士论文】不确定性量化与因果考量在非策略决策制定中的应用
皮尤研究中心：2024 美国民众对气候变化及应对政策的态度调研报告：气候政策对美国经济影响的多元观点审视（28 页）
空间计算行业深度：发展趋势、关键技术、行业应用及相关公司深度梳理 - 250224（33 页）
Gartner：2025 网络安全中的 AI：明确战略方向研究报告（16 页）
北京大学：2025 年 DeepSeek 系列报告 - 提示词工程和落地场景（86 页）
北京大学：2025 年 DeepSeek 系列报告 - DeepSeek 与 AIGC 应用（99 页）
CIC 工信安全：2024 全球人工智能立法的主要模式、各国实践及发展趋势研究报告（42 页）
中科闻歌：2025 年人工智能技术发展与应用探索报告（61 页）
AGI 智能时代：2025 年 Grok - 3 大模型：技术突破与未来展望报告（28 页）
上下滑动查看更多
发布者：admin，转转请注明出处：http://www.yc00.com/web/1754440185a5161588.html
评论列表（0条）