“梁博，现在的FNN 都是多层网络，使用一层网络不能做到吗？为啥要设计多层，这是从哪方面考虑呢？”FNN这个部分，是通过已知token序列判断下一个token的核心模块。一般是2层神经网络，每层是token维度的4倍。比如token是一个768维的向量，那么2层神经网络都是3072维的向量。2层全连接就是3072*3072条边（940万条边），计算量是非常大。获得的好处从我的理解是2方面，1）更好的模型记忆 2）更好的泛化。记忆其实比较容易理解，其实神经元越多，参与计算的边权重就越多，越容易记忆训练的数据，其实可以设想，如果神经元很少，都胡在一起不好分化。其次就是泛化能力，如果是一层哪怕维度再多，学不到非线性性的东西，表达力就差了很多（虽然一层神经网络也可以通过把input做一些非线性改造学到非线性内容，但是这里假定一层神经网络学不到非线性性东西，防抬杠用），层数太多呢，计算量又太大，MOE就是在这块优化的，降低稠密模型的计算量，如果搞3层，4层，计算量太大了。2层应该是刚刚好。当然了，我的说法也不一定对，还是建议请教专家或者老师，以专家说法为准。
不少人来信问下月举办的梁博股东大会，没有付费购买合订本能否参加，我们就是通过这个筛选用户的。。所以没有付费的，确实没法参加。换句话说，付费购买合订本用户享受以下权益：1）获得一个20篇AI相关上下游投资的科普文章，不含股票推荐，只传达AI行业信息2）文章会合集成一个纸质版合订本，我会签名。3）免费参加下月举办的线下大会。（会议含餐，不含住宿交通）4）大会中可以向我提一个问题，我会尽力回答。谢谢，目前已经有110多人购买，已经满了，不需要更多报名，合计20多万，除了2万多用于办会，其他都会捐助给一个乡村学校和一个脑瘫机构，完成捐赠后会公示大家。谢谢。
@高飞
#模型时代# 5到10年内实现AGI：谷歌Deepmind 联合创始人 哈萨比斯的7个核心AI判断2025年12月，Axios AI+ Summit旧金山峰会压轴访谈。Google DeepMind联合创始人兼CEO Demis Hassabis接受了Axios联合创始人Mike Allen的专访。这两天在路上，刷新消息有点不及时，不过哈萨比斯的访谈，看到还是第一时间记录一下。几个前沿AI实验室的主要发言人，他的访谈信息量是毫无疑问最大的，我排序一下会是是：哈萨比斯> 马斯克> 扎克伯格> 阿莫代> 奥特曼当然，这一期限于时间，还是总结为主，但是也说到AGI所差的几个具体拼图。哈萨比斯5岁就表现为国际象棋神童，48岁拿了诺贝尔化学奖得主，是深耕神经科学的研究者，也是AlphaGo、AlphaFold背后的推手。所以，Allen开场就说："你既深入科学前沿，又身处公司竞争一线。"一、AGI的时间线与路径哈萨比斯给出了明确判断：AGI距离我们5到10年。但他强调自己的标准很高。"我们定义的AGI，是一个展现人类所有认知能力的系统，包括发明和创造能力。"他直言当前LLM的问题：某些领域达到博士水平，某些领域却漏洞百出。"你会期待真正的AGI具备全面的一致性，但现在的系统是jagged intelligence（参差不齐的智能）。"1、还缺什么能力？哈萨比斯列出三项关键缺失：continual learning（持续学习）、online learning（在线学习）、long-term planning and reasoning（长期规划与推理）。"它们现在做不到这些。我相信未来能做到，但可能还需要一两个重大突破。"2、纯靠Scaling能到终点吗？这是个经验性问题。哈萨比斯的判断是：必须把现有系统的Scaling推到极限，因为它至少会成为最终AGI系统的核心组件，也有可能就是全部。但他的直觉是，回头看时，可能还需要一两个Transformer级别或AlphaGo级别的突破。二、未来12个月的三个技术方向1、多模态融合加速Gemini从诞生起就是多模态的，能处理图像、视频、文本、音频，现在也越来越能生成这些类型的输出。哈萨比斯特别提到他们的图像模型Imagen Pro，在视觉理解上展现出惊人的能力，比如生成高精度的信息图表。他预测：当视频能力与语言模型真正融合时，会出现非常有趣的组合。2、World Models（世界模型）哈萨比斯正在亲自参与的项目是Genie 3。"这是一个交互式视频模型。你可以生成一段视频，然后像玩游戏一样走进去四处移动，系统能保持连贯一分钟。"3、Agent系统的可靠性突破"行业谈了很多Agent，但它们还不够可靠，无法完成完整任务。"哈萨比斯认为一年后会有明显进展。他描述了Google的愿景：打造一个universal assistant（通用助手），不只存在于电脑或手机上，而是可能通过眼镜等设备随时陪伴。三、AI风险的清醒判断Allen用快问快答的方式抛出一系列风险场景。病原体武器——"这绝对是我们必须防范的坏用例场景之一。"能源或水利设施的网络恐怖袭击——"这可能已经在发生了，只是还没用上非常复杂的AI。这是最明显的脆弱点。"Google和DeepMind正在大力投入AI for cyber security（AI网络安全），强化防御端。AI脱离人类控制——"系统越自主、越具有代理性，就越可能偏离你最初的指令或目标。这是非常活跃的研究领域。"P(doom)是多少？哈萨比斯对那些给出精确概率的说法不以为然："没人真正知道。我只知道它非零。既然非零，就必须投入大量资源和注意力。"他提到一个有趣的商业逻辑：当企业客户租用你的Agent时，他们会要求行为保证——数据怎么处理，客户怎么对待。一旦出问题，他们会换供应商。"资本主义会自然奖励更负责任的玩家。"但他也承认，如果执行不当，AI确实有可能跳过护栏。四、中美竞争的真实差距"在基准测试和最新系统上，美国和西方仍然领先。但中国没有落后太多。"哈萨比斯给出的量化感觉是：领先优势可能只有几个月，而不是几年。DeepSeek和其他中国模型的最新版本非常强。但他强调一个关键区别："芯片是一回事，但在算法创新上，我认为西方仍有优势。中国模型和公司还没展示出能在算法上超越当前最先进水平的创新能力，他们非常擅长快速跟进。"五、Gemini 3与科学家的产品观哈萨比斯对Gemini 3的描述带着明显的满意感。"它推回你的观点——如果你的想法不合理，它会温和地质疑。"他喜欢它的简洁和"个性"。最让他兴奋的是one-shotting games（一次性生成游戏）的能力。"回到我最早做AI for games的职业起点，我们现在非常接近用这些模型vibe coding（感觉式编程）出商业级游戏，几小时完成过去需要几年的工作。"他坦言一个悖论：研发速度太快，他自己都没时间探索现有系统十分之一的能力。"我们的用户往往比我们更快发现酷炫的用法。"六、泡沫与人才战争AI泡沫存在吗？"不是非黑即白。行业的某些部分可能处于泡沫，比如500亿美元的种子轮之类的。但从长远看，这一切都会被证明是值得的。我的工作是确保Google DeepMind无论泡沫破裂还是继续向好，都处于强势地位。"人才争夺战会怎么收场？"最近确实有点疯狂，Meta的做法之类的。"但哈萨比斯认为DeepMind的优势在于使命驱动和全栈能力。"如果你想做最有影响力的工作，对世界产生最积极的影响，没有比Google DeepMind更好的地方了。最顶尖的科学家、研究员和工程师，想做最前沿的东西。如果你在排行榜顶端、拥有最好的系统，这就是自我强化的。"七、游戏训练决策力哈萨比斯是终身利物浦球迷，帮助球队做过数据分析。访谈结尾他聊到游戏对人生的意义："国际象棋和其他游戏是现实世界的微缩版。现实中，你可能一辈子只有十几个关键决策时刻，但在游戏里，你可以无限次练习决策能力。只要你认真对待，它真的能训练你的决策和规划能力。"关于2026年北美世界杯，他透露已有很多球队找DeepMind寻求帮助。AI能做什么？"比如角球时球员的精确站位，我们的系统发现这能提高头球得分率。"Q1: AGI还要多久？需要什么突破？ 5到10年。当前LLM缺乏持续学习、在线学习和长期规划能力，哈萨比斯认为可能还需要一两个Transformer级别的重大突破，但Scaling必须推到极限，因为它至少是最终系统的核心组件。Q2: 中国AI真的落后吗？ 领先优势可能只有几个月。芯片受限是事实，但更关键的差距在算法创新，但还没展示出超越当前最先进水平的原创突破能力 Q3: 最被低估的AI能力是什么？ 多模态视频理解。哈萨比斯用Fight Club举例：让Gemini分析Brad Pitt摘下戒指的场景意义，系统给出了关于"离开日常生活"的哲学解读。配合Gemini Live的实时视觉识别，这种能力的实用价值还远未被充分认识。
成都与法国蒙彼利埃市是中法缔结的第一对友好城市。我觉得马克龙去成都是充分传达善意。
@烧伤超人阿宝
有没有朋友给解解惑：为啥马克龙要跑一趟成都？