图灵奖得主萨顿复旦开讲:带领师生穿越强化学习的思想史纵深

作者:汪蒙琪摄影: 视频: 来源:校融媒体中心、学敏高等研究院、经济学院发布时间:2026-07-23

几天前,在世界人工智能大会WAIC 2026主论坛上2024年图灵奖得主、Openmind Research Institute首席科学家理查德·萨顿(Richard Sutton)完成了一场轰动业界的主旨演讲——他直言“AI的进步被夸大了”人类数据时代将走向尽头AI正迈入“经验时代”。

萨顿在经济学院睿郡报告厅开讲

7月22日下午这位被誉为“强化学习之父”的传奇人物带着他一贯的冷静与锐度,走进复旦校园,在“学敏大讲堂”的讲台上与复旦师生面对面交流。

此次讲座由复旦大学学敏高等研究院、经济学院主办,Openmind Research Institute协办校党委常委、校长助理彭慧胜担任主持校长助理、上海科学智能研究院理事长吴力波、复旦大学文科资深教授、经济学院院长张军等出席活动。

一切发明皆源于盲变异与选择性保留

讲座开始前,经济学院睿郡报告厅已座无虚席。

萨顿以“重新发现强化学习:知识选择理论的思想演进”为题,带领听众们穿越强化学习的思想史纵深,从“知识选择理论”的独特视角,重新理解强化学习的本质。

“如果你对强化学习尚不熟悉,不妨将其置于更宏大的思想框架中理解。”讲台上,这位年近七旬的科学家,将数十年的学术积淀,压缩在这平静的语调中,娓娓道来。

在他看来,思想史本身就是一个宏大概念,涵盖了思想的起源、演变过程以及不同思想体系与文化背景下的思想发展脉络。

作为时间差分学习(Temporal Difference Learning)和Dyna架构的提出者,他与导师安德鲁·巴托(Andrew Barto)合著的《强化学习导论》被誉为该领域“圣经”。2024年,萨顿也因“建立强化学习概念与算法基础方面的奠基性贡献”,与巴托共同荣获当年的图灵奖。

讲座中,萨顿系统阐释了一个贯穿其学术思想的核心命题:一切有用的发明(useful know-how)皆源于“盲变异与选择性保留”(Blind Variation and Selective Retention, BVSR)过程。在他看来,无论是生物进化、科学方法、日常规划,还是强化学习与操作性条件反射,所有产生有用知识的过程都遵循同一个三步逻辑:考虑一系列备选方案(盲变异)、对它们进行评估、保留其中的最佳者。

这一理论框架源自心理学家唐纳德·坎贝尔(Donald Campbell)1960年发表于《心理学评论》(Psychological Review)的经典论文“Blind Variation and Selective Retention in Creative Thought as in Other Knowledge Processes”。

萨顿在讲座中回顾了这一思想的深厚学术谱系——从达尔文的自然选择、詹姆斯“心智的标志是通过可变手段实现恒定目标”的论断、桑代克的效果律,到波普尔的“代替我们死去的想法”、西蒙的“生成与测试”,以及丹尼特“效果律为何不会消失”的追问——这条思想脉络跨越了心理学、生物学与人工智能,最终汇聚于坎贝尔的BVSR框架。

“盲”字何解?针对BVSR中“盲”(Blind)一词可能引发的误解,萨顿在讲座中专门作了阐释。

他指出,“盲”并不意味着完全的随机:儿童与父母高度相似(大多数突变是有害的);优秀的科学家不会随意提出理论;强化学习也在探索与利用之间寻求平衡。然而,在他看来,BVSR是驱动自然演化与人类社会发展的核心机制,一切发明的源头,恰恰来自于那个“盲”的部分。

强化学习才是真正的“原创”引擎

基于BVSR框架,萨顿对当前以大规模语言模型为代表的生成式AI提出了深刻见解。他指出,监督学习无法完成“原创”(origination),模仿与预测同样无法产生真正的“知道如何做”——唯有强化学习同时具备了BVSR所要求的探索(变异)与利用(选择性保留),才有实现“原创”的可能。

“关于‘该做什么’的知识,才是我们所有知识体系中最核心的部分。”萨顿强调,“它是我们知识与理论体系最终形成的结晶,决定了我们在实现目标时应当采取何种行动。”

萨顿特别以Q-learning为例说明,每一步Q-learning都涉及对行动的搜索(即“盲变异”),而Sarsa(一种强化学习算法)使用的搜索更少、产生的know-how也更少——搜索越多,know-how越多。

萨顿透露,他最新的“持续深度学习”研究思路本身就是BVSR的应用:在特征空间中进行“生成与测试”,以防止塑性丧失和灾难性遗忘。这一发现之所以重要,恰恰因为它连接到了“选择理论”这个重要理念。

讲座尾声,萨顿引用了加里·齐科(Gary Cziko)1995年的著作《没有奇迹:选择理论与第二次达尔文革命》,指出人类解释世界的范式经历了从“神意”(Providence)到“指令”(Instruction)再到“选择”(Selection)的演进。齐科将BVSR提升到“普适选择理论”(Universal Selection Theory)的高度,称之为“本世纪的大观念”。

当人工智能的全部力量都建立在人类已有知识之上时,那些尚未被发明的知识,将会从BVSR的“盲变异”中诞生。萨顿的此次讲座,不仅是对强化学习理论根基的深刻阐释,更是对人工智能未来方向的郑重宣告:真正的智能,必须从经验中自主发明,而非仅仅模仿已知。

萨顿与师生畅聊AI未来

提问环节,现场氛围热烈。面对台下师生的踊跃提问,萨顿分享了自己的独到见解。

Q1:有效的智能体需要从现实世界的持续交互反馈中学习,但当前似乎仍缺少这一点。那么,未来的进步方向是什么?

对此,萨顿指出,AI真正的进步并非仅体现在技术潮流的更替上,而是体现在对该领域基础问题的逐步深入理解——例如如何让机器处理延迟回报、如何在动态环境中做长期决策等。

当前的AI代理在持续从真实世界交互中学习方面仍存在缺失,尽管这一方向早已被探讨,但近年来才重新获得重视。强化学习、行为心理学和控制理论的结合,将逐渐推动AI向更具适应性的方向发展 。

Q2:从强化学习和通用人工智能AGI的视角来看,您认为现有的监管治理体系,能否跟得上那些持续学习和不断适应的AGI系统?

“现在对AI进行监管还为时过早,因为AI每隔几个月就会发生翻天覆地的变化。”萨顿表示,把创新作为国家的政策方向是对的,但要避免因过度控制而扼杀创新所需的变异过程。他认为,如果创新者只能做一些“稍微不同”的事情,那就扼杀了真正的突破。

Q3:智能体(如好奇心或探索驱动力)的初始目标是如何设定的?

在萨顿看来,好奇心和自我维持(如避免疼痛、寻求愉悦)可作为通用的内在目标,帮助智能体在复杂环境中生存和学习。AI本质上就是关于目标的研究——关于目标追求能力的研究。而这种目标追求能力,意味着目标必须是任意的。如果一个理论的目标只优化某一条规则,那这个理论就不如一个能处理更广泛目标范围的理论。

Q4:人类如何设法管理自身面临的潜在风险和威胁?

萨顿认为,创造知识的能力既强大又具潜在风险,但本质上是对人类能力的增强。不应将AI视为不可避免的敌人,而应寻求合作机会。随着公众对AI认知的深化,社会需调整心态,从恐惧转向协作。当前大语言模型虽非真正智能,但标志着公众与AI概念的“首次接触”,未来几十年将是确立人机关系的关键时期。

“恰逢其时的思想,势不可挡。”萨顿在WAIC 2026上引用维克多·雨果的这句名言,或许也正因他深信——这股不可阻挡的力量,终将汇入未来。

讲座结束后,掌声经久不息。更多年轻人重新理解了“学习”这个词——它不只是记住别人已经知道的东西,而是自己从经验中发现新的可能。

这也许正是这场讲座留给在场听众最珍贵的启示:在AI狂飙突进的时代,我们不仅需要更快的计算和更大的数据,更需要回到智能的源头,去理解“原创”本身如何发生。

制图:实习编辑:严静雯责任编辑:李斯嘉

相关文章

文化校历

新闻分类

推荐视频

图说复旦

新闻排行

周排行 月排行

  • 联系我们
    fudan_news@163.com
    021-65642268