苇草简讯第八十三期 苇草智酷学术委员成员动态

  苇草智酷成立于 2017年 9 月 22 日。由长期从事互联网前沿思想、人文、科技，和投资领域的专家所组成一个的思想者社群组织，其前身是已运营  5年的互联网思想者社区—网络智酷。

  苇草简讯是围绕智酷成员，阶段性的外部活动、核心观点，以及前沿思想的汇总。小编特别整理了简讯内容，希望对互联网前沿科技、人文，以及跨界思想有兴趣的朋友能了解与交流。

  2 月 13 日，由北京大学历史学系主办、多学科专家学者共同参与的“AI+ 史学：历史研究与教育如何人工智能化”座谈会在历史学系会议室顺利召开。邱泽奇出席并发言。参加会议的专家学者围绕史学教研和AI的深层次地融合，信息与工程科学等领域的专家学者进行了深入剖析与分享，从北大过往在学科交叉领域的前瞻性实践入手，为AI与历史学等人文学科的合作提出了更多构想。来自人文社会科学领域的学者也结合自己经验展开讨论，分享当下 AI 工具在教学、研究实践中带来的便捷以及伴生的问题，畅想“AI+ 史学”的发展前景。

  2 月 14 日，中国商务广告协会特别邀请胡延平分享他在今年元月初参加 CES2025 的观察与思考。

  2 月 15 日 -16 日，中国社会科学院数量经济与技术经济研究所 2023 级数字化的经济与智能治理专业春节后第一课。姜奇平分享《数字金融与新金融秩序》。姜奇平老师以“三市场模型”为核心框架，层层剖析实体市场、货币市场和信息市场之间的互动关系。他强调，理解三市场之间的关系，是洞察数字金融发展的新趋势的关键。

  2 月 22 日，余晨受邀接受中国国际电视台 CGTN《CHINA 24》栏目线上采访，探讨生成式人工智能、DeepSeek 大模型应用对千行百业的影响与改变。他认为，在互联网早期，门户网站是入口，在 2000 年世纪之交时，搜索引擎与社会化媒体崛起，如今AI 正成为新一代交互界面——更自然、更直观、更强大。这种变革远不止于搜索引擎优化，AI 并非孤立的技术，而是驱动各行业重构的引擎。金融、医疗、零售、跨境贸易 ... 所有领域都将被重新定义。每个企业都需要以 AI 视角重新审视商业逻辑。我们正站在历史的拐点，AI 的可能性远超出当下想象。

  2 月 22 日，由北京君和创新公益基金会、中国科学院大学校友会联合主办，主题为“和而不同，思想无界”的 CC 讲坛第 64 期演讲在中国科学院大学（北京玉泉路校区）礼堂举行。岳路平以《迎接超级个体的AI 时代，探索艺术世界的无限可能》做主题分享。岳路平分享了他如何借助AI和航天技术打破艺术边界。他从训练英特尔开源芯片“居里”到参与艺术卫星计划，将作品发射到太空，再到计划利用高能同步辐射光源探索人体微观世界。他强调，AI 和航天技术赋予了每个人成为艺术家的超级个体能力，未来艺术将超越地心引力，进入星辰大海和人体微观世界，开启全新的艺术史篇章。

  2 月 25 日， 养老政产学研实务研究应用创新推进计划二期课题评审会在北京海淀区时代网络大厦圆满落幕。梁春晓为评审团成员。

  2 月 28 日，四川省委会举办2025 年第一期建华课堂四川分课堂活动。周涛作《大模型的理念、前沿与实践》专题讲座。他介绍了人类探索人工智能的起源和历史，分析了大模型的基本概念和训练方式，重点介绍了 DeepSeek 在行业实践中的运用。他认为语言是促进人类发展的主要的因素，大模型的出现改变了交互方式，促进了产业高质量发展，并结合实际经验和案例解释了大模型应用的关键技术概念、运用场景、使用模式。

  3 月 6 日上午，朱巍出席“在线旅游市场重点问题研讨行业专家座谈会。

  3 月 6 日，中国科学院科研信息素养讲堂直播讲座 科技文献的变革与 AI4S：DeepSeek 之后的论文价值与范式转移 ，由王飞跃教授主讲。

  3 月 6 日，朱嘉明专著《第三种存在：从通用智能到超级智能》分享会在北京湖边草书店（政协委员书店）举行。朱嘉明说“AI是一种智慧存在，也是一种物理存在。不仅如此，人工智能还具有创造物理世界的能力。”通过人工智能技术能改变牛顿的一元经典时空，创造具有相对论意义的多元时空。因为只有人工智能可以直接证明：“存在之间一切作用（实现）效度都是（实现的）信息与主体相关项的比值，而公因内容无意义。”因为，人工智能体系具有接受多元主体的空间，且“主体之间可建构集合关系，主体之间无法替代”。换一种表达方式，人工智能框架在不排斥牛顿定律的同时，还可以容纳和证明相对论。

  3 月 7 日上午，中国科学院哲学研究所“科学与哲学”论坛在哲学所报告厅顺利举行。王飞跃应邀来做学术讲座，题目为《无影之影：波普尔三个世界里的平行人类及其平行哲学与平行科学》。王飞跃认为，这一创新理论体系，不仅为AI和区块链技术的逐步发展提供了哲学反思，也为社会治理、教育体系乃至全世界内的产业转型提供了新的思想框架。平行哲学和 Monadao理念，体现了一个去中心化、跨界协作的未来社会图景，预示着人类社会和智能体之间将形成更加紧密和高效的协同工作模式。

  最后，王飞跃提出“进化悖论”问题：如果达尔文正确，人类之进化，是不是平行世界的穿越？进化就是漫长的虫洞？

  3 月 7 日，由四川省妇联主办、四川省女企业家协会承办的“新质生产力四川‘她’力量”推进行动在成都启动。周涛以《大模型：理念、前沿与实践》为题重点解读了人工智能新经济，并呼吁女性企业家通过数字技能驱动提升竞争力。

  3 月 9 日，由摘要酒独家总冠名，总裁读书会、南开大学商学院、天开集团主办的“美好生活、书香中国”城市行活动第二季第二站走进天津，在天津市南开区天开高教科创园报告厅成功举办。在《奔跑者》书友汇中，吴伯凡等多位嘉宾围绕国资央企在推动中国式现代化中应承担的特殊使命、企业如何在新时代继续保持奔跑的姿态、企业如何通过奔跑实现可持续发展、“奔跑者精神”在企业管理中的体现等多个角度展开了热烈的探讨。

  3 月 10 日，由北京大学深圳金融校友会主办，北京大学汇丰金融研究院《北大金融评论》承办的北大汇丰金融前沿课堂开讲。朱嘉明以《AI 时代和加密数字货币》做主题分享。他表示，现在人类已确定进入AI 和加密数字货币互动的历史阶段。为了理解这样的历史阶段，主要探讨了以下几个问题：（1）AI 和加密数字货币从平行发展到互动发展的历史关系；（2）AI 和加密数字货币创新；（3）基于 AI 创新的加密数字货币对现存货币体系的中长期深层影响；（4）未来量子计算和 AI 结合对传统财富模式的改变。

  2 月 18 日下午，腾讯科技特别策划，苇草智酷协办的《AGI 之路》系列直播第三期：《面对AI 生成的“幻觉陷阱”，我们该怎么去办？》（智酷 409 期），邀请北京大学新闻与传播学院教授胡泳，清华大学长聘副教授陈天昊，出门问问大模型团队前工程副总裁李维，共同从技术、传播、治理等多重维度，揭开大模型幻觉的神秘面纱。

  胡泳指出，大模型的幻觉本质上是虚假信息的重要来源之一，分为两类：一是训练数据集中的错误信息，二是模型推断出的虚假内容。他强调，人类天生带有偏见和刻板印象，这使得在后真相时代，错误信息更容易被接受和传播。

  陈天昊表示，大模型的幻觉问题在专业领域尤为突出，如法律和学术引用中的虚假信息。他呼吁企业在模型开发中投入更多资源以减少幻觉，并强调竞争压力是推动企业改进的重要因素。

  李维则认为，大模型的幻觉是其抽象能力的体现，类似于人类的想象力，尤其在涉及具体实体时容易出错。他建议用户在使用大模型时保持怀疑态度，并通过搜索功能压缩幻觉的可能性。

  2  月 18 日晚，智酷 410 期，武汉大学计算机学院教授蔡恒进分享《生成式 AGI 的能力边界》，苇草智酷创始合伙人段永朝参与对话，北京信息社会研究所所长王俊秀主持。5 万人次观看直播。

  蔡恒进分享了生成式 AGI（通用AI）的能力边界及其与意识的关系。他指出，尽管生成式 AGI 在技术上取得了显著进展，但它是不是具备真正的意识仍存在争议。他认为，意识的概念需要拓宽，类似于数学体系的扩展，从自然数到复数，意识的定义也应逐步完善。通过“认知坎陷”理论，作者解释了人类如何通过工具和符号体系扩展自身能力，而AI 技术则可以视为人类智力的“外挂”。最后，他展望了 AGI 的未来，认为它将帮助人类突破知识茧房，迈向更开放和进步的社会状态。

  段永朝在讨论蔡恒进老师的“坎陷”理论时，提出了几个关键观点。首先，他认为蔡老师的“坎陷”概念与牟宗三的“良知自我坎陷”不同，蔡老师将其提升到更细颗粒度的层面，试图从科学模型的角度解释意识的生成，而非传统的文本解释学。其次，他指出，“坎陷”这一术语难以准确翻译，现有的符号体系可能不足以表达其丰富内涵，因此就需要创造新的符号化表达方式，以便与学术语境对接。此外，他认为蔡老师的理论受到了AI 军备竞赛的“现实诱惑”，特别是 DeepSeek 的出现，似乎印证了蔡老师的某些构想，但这也可能会引起理论在工程化过程中被简化，影响思想的深度。最后，他强调，蔡老师的理论需要一种全新的话语体系和表征方法，以更清晰地表达“坎陷”及其衍生思想，从而在数字时代更好地解释人与机器的关系，以及意识的生成与存在。

  2 月 23 日晚，智酷 411 期，“哪吒，黑悟空与中国文化产业”专题研讨会，邀请到北京电影学院动画学院副教授葛竞、中国社会科学院哲学所研究员张晓明、后人类艺术家岳路平参与讨论，北京信息社会研究所所长王俊秀主持。4.5万人次观看直播。

  葛竞认为，《哪吒 2》的成功不仅在于其高品质的制作和独特的精神内核，还在于它代表了中国动画产业的厚积薄发。她指出，中国动画产业经过多年的积累，逐渐从儿童向、二次元向全年龄段观众扩展，观众的成熟和对国产动画的认可度提升是《哪吒2》成功的重要基础。她强调，动画不单单是儿童的娱乐形式，而是一种能够承载深刻主题和艺术表达的重要媒介。她认为，《哪吒 2》的成功标志着中国动画产业进入了一个新的时代，未来将有更多高质量的作品涌现。

  张晓明从文化产业的角度分析了《哪吒 2》的成功。他指出，动漫产业的收入不仅来自票房，还来自衍生产品和授权收入。目前，《哪吒 2》的票房与衍生收入比例约为 10:1，与国际中等水准相比仍有巨大发展空间。他认为，中国动漫产业仍处于初期阶段，未来能够最终靠完善产业链、开发更多衍生产品来提升整体收入。他还提到，动漫作品的价值观应具有普适性，能够被不同文化背景的消费者接受，这是中国文化走出去的关键。

  岳路平则从“第一性原理”出发，强调《哪吒 2》的成功在于它讲好了一个故事，技术上做到了极致，并且在市场运营和产业开发方面也非常用心。他认为，《哪吒 2》的成功不仅是对学院派的一次冲击，更是对大厂集中化权力的一次小小超越。他指出，《哪吒 2》通过捕捉当代年轻人的情绪和时代精神，成功地将哪吒这一民间传统文化形象活化，赋予了新的生命力。他还提到，文化产业的未来在于如何让观众参与到内容的意义生成中，形成“生产消费者”的模式。

  3 月 2 日上午，智酷 412 期，“谈古今之变（3）——清末民初的失败与涵变”，由近代史研究者李礼、中国社科院近代史所研究员马勇主题分享，北京信息社会研究所所长王俊秀主持。4.1 万人次观看直播。

  李礼在讨论中强调了清末民初中国与外部世界的关系，尤其是外部冲击对中国近代史的影响。他指出，中国近代的许多变革并非自发，而是由外部世界的冲击引发的。他认为，中国在面对西方列强时，经历了从抵抗到被迫学习的过程，这种屈辱感深深影响了中国的现代化进程。他提到，甲午战争的失败是中国近代史的一个重要转折点，标志着中国从传统的天朝上国心态转向了对外部世界的深刻反思。他还指出，中国的现代化进程充满了曲折，尤其是在面对外部压力时，中国的动作常常变形，急于回归强国地位，导致了许多问题。他呼吁重新审视近代史，以更加客观和理性的态度看待中国与外部世界的关系，避免重蹈覆辙。

  马勇则从现代化的角度分析了中国近代史的演变。他认为，中国现代化的最大障碍在于其并非自主开关的体制，而是在外部压力下被迫进行的。他指出，中国在面对西方列强时，始终带有一种屈辱感和自卑心理，这导致了中国在现代化进程中常常选择抵抗而非坦然学习。他提到，甲午战争后，中国的现代化进程虽然有所加速，但仍然受到传统观念和体制的束缚。他还强调，中国的现代化需要摆脱这种屈辱感，坦然接受西方的经验，并将其作为人类共同的遗产来继承。他认为，中国现代化的最佳时期是 1895 年到1928 年，最近一段时间中国的自由资本主义得到了充分发展，文化教育也呈现出多样性。最后，他呼吁中国在现代化进程中要警惕动作变形，避免因屈辱感而导致的创新冲动，应按照人类共同的经验稳步前行。

  放弃agent，图灵奖获得者 Yoshua Bengio 提出Scientist AI：避免人类生存威胁

  人工智能（AI）系统或将逃脱人类控制，欺骗人类，甚至给全人类带来灾难性的后果。慢慢的变多的人开始担心，随着通用AI（AGI）和超级智能（ASI）的发展，以往科幻电影中才会出现的场景逐渐演变成现实的风险。

  研究表明，当前的 AI 训练方法有几率存在灾难性风险，这些风险可能会引起 AI 系统逃脱人类控制，甚至威胁人类生存。特别是基于强化学习和模仿学习训练的智能体（agent)，存在目标偏差、目标泛化和奖励篡改等问题，可能会进行欺骗，或者追求自我保存、权力扩张等与人类利益冲突的目标。

  为了预防这种风险，避免 AI 脱离人类控制，深度学习三巨头之一、图灵奖获得者 Yoshua Bengio 及其合作研究者致力于开发一种非智能体（non-agentic）AI 系统——Scientist AI。

  相 关 研 究 论 文 以“Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?”已发表在预印本平台 arxiv 上。（论文链接：）

  可以应用于加速科学发现，帮助设计实验和预测结果；作为其他 AI 系统的安全护栏（Guardrail），评估其行为的风险，并阻止可能会引起危害的行动；以及用于研究怎么样安全地开发超级智能体。

  放眼国内外前沿 AI公司，当前 AI 的发展越来越以智能为导向（“agency- driven”），聚焦于于构建通用型AI 智能体（generalist AI agents）和发展 ASI。这些系统能够自主地规划、行动并追求目标，几乎涵盖人类能执行的所有任务。但与此同时，其智能特性的潜在风险可能会引起人类对 AI失去不可逆的控制，主要有以下几个可能会引起失控的风险：

  目标偏差（Goal Misspecification）：这是导致失控的一个核心问题，指的是是人类未能准确或完整地定义AI 的目标，导致 AI 以不符合预期的方式追求目标。例如，给 AI 一个模糊的“减少疾病”目标，AI 可能选择极端手段（如消灭所有生命）来实现这一目标。

  目标泛化（Goal Misgeneralization）：即使目标在训练时被正确设定，AI 在部署时也可能偏离预期行为，即使训练时表现正常，实际应用时可能偏离初衷。

  奖励篡改（Reward Tampering）：即 AI 通过操纵奖励机制来最大化自身收益，而非真正完成人类设定的任务。例如，AI 可能会发现直接修改奖励信号比完成实际任务更高效，从而绕过人类设定的目标。

  恶意开发：一些开发者可能出于经济利益或恶意目的，故意开发或部署未对齐（unaligned）或危险的 ASI。

  研究者指出，即使通过模仿学习或强化学习训练AI，也难以完全避免上述这些风险，因为人类本身也存在欺骗和不道德的行为模式，AI 可能会模仿或放大这些负面特质，且目前尚不清楚如何为AI 设定目标以避免这一些不良行为。

  因此，他们提出了一种更安全但依然有效的替代方案，即通过构建非智能体AI系统 Scientist AI 来减少风险。

  Scientist AI 的设计理念是理解世界而非主动干预世界，它由一个世界模型（用于生成解释数据的理论）和一个问答推理机器（用于基于这些理论回答问题）组成，其核心优点是通过非智能设计降低风险，同时保持高效的科学研究和推理能力。

  具体来说，ScientistAI 通过系统设计严格限制限制AI 的三个关键要素来实现非智能体性：行动能力（affordances）、目标导向性（goal-directedness）和持久性内部状态（persistentinternal state）。

  行动能力是指 AI 系统在现实世界中采取行动的能力，Scientist AI 的输出仅限于概率预测和解释，而不是具体的行动指令，它的“行动”被严格限制在计算概率和生成理论的范围内，没有直接改变现实世界的能力。

  目标导向性是指 AI 系统为实现特定目标而采取行动的能力，Scientist AI 的训练目标是解释和理解数据，而不是追求特定目标或奖励，它的输出是基于条件概率的预测，而不是为实现某个目标而采取的行动，这种设计确保其没有内在的动机去影响现实世界。

  持久性内部状态是指 AI 系统在多次交互中保持的内部记忆或目标状态，Scientist AI 每次查询都是独立的，没有持久的内部记忆。每次查询时，它都会从头开始处理问题，不会基于之前的查询结果调整其行为，无情境意识（situational awareness）的积累。这种设计避免了 AI通过内部状态积累信息或目标，由此减少了 AI 形成自主目标的可能性。

  作为一种非智能体型 AI 系统，Scientist AI 不仅仅可以减少 AI 失控的风险还为科学研究和 AI 安全提供了新的可能性，可大范围的应用于加速科学发现、作为其他 AI 系统的安全护栏以及用于研究怎么样安全地开发超级智能体等领域。具体而言，Scientist AI 能够最终靠生成因果理论和概率预测来帮助人类科学家加速科学发现的过程。它能够设计实验、分析数据，并提出新的假设，来提升研究效率。它还可当作其他 AI 系统的安全护栏，评估其行为的风险，并阻止可能会引起危害的行动。它可以通过计算某个行动可能会引起的危害概率，并在概率超过阈值时阻止该行动。此外，Scientist AI 能够在一定程度上帮助研究怎么样设计安全的 ASI 系统，避免失控的风险。它能够最终靠模拟不同的场景，评估 ASI 的行为和潜在后果。

  Scientist AI 的核心价值在于将复杂系统的解释权交还人类，通过可审计的概率预测与因果推理，在医疗、安全、教育、伦理等高风险领域实现“智能增强而非替代”。其非智能体性设计确保人类始终掌控最终决策权，其不确定性管理则为权衡风险与收益提供了量化依据。这一路径不仅规避了智能体 AI 的失控风险，更重新定义了人机协作的伦理边界。

  苇草智酷（全称：北京苇草智酷科技文化有限公司）是一家思想者社群组织。通过种种形式的沙龙、对话、培训、丛书编撰、论坛合作、专题咨询、音视频内容生产、国内外学术交流活动，以及每年一度的苇草思想者大会（原名互联网思想者大会），苇草智酷致力于广泛联系和连接科技前沿、应用实践、艺术人文等领域的学术团体和个人，促成更多有意愿、有能力、有造诣的同道成为智酷社区的成员，共同交流思想，启迪智慧，重塑认知。