4月1日,复旦科创先锋论坛以“Beyond ChatGPT:大型语言模型引发的时代变革”为题,邀请到复旦大学计算机科学技术学院教授、MOSS系统负责人邱锡鹏,复旦大学中国语言文学系教授严锋,上海乐言科技股份有限公司创始人兼CEO、复旦科创企业家营校友沈李斌与复旦大学管理学院信息管理与商业智能系教授张诚,共同探讨ChatGPT及其他大模型技术涌现所带来的机遇和挑战。
在主题为“MOSS:对话式大型语言模型”的演讲中,邱锡鹏首先介绍了大型语言模型背后的技术原理,他认为好的语言模型需要更好地理解语言与常识。ChatGPT的三大关键技术是情景学习、思维链和自然指令学习。情景学习即在上下文语境中学习的能力,语言模型会在“提示词”(prompt)中附带一些例子作为“上文”输入,再预测并输出下文,这就改变了传统的学习范式,可以大幅降低下游开发成本。第二个是思维链,指的是做大模型示例的时候不要只给答案,也要给它推导过程,语言模型学习这个推导过程,最终给出一个正确的答案。这是突破模型参数约束、实现“涌现”能力的关键技术。第三是自然指令学习,让模型能直接理解人类指令,模型从指令中学习判断能力,不断“对齐”人类的真实意图。
邱锡鹏主持研发的MOSS系统将于4月中旬开源。他指出,MOSS和ChatGPT具有相近的通用语义理解能力,目前在推理能力和事实类知识方面还有一定差距,这主要是由于参数规模不足造成的,可以通过扩大模型规模来实现。“首先是对语言模型基座进行架构优化,将面临输入长度、中文编码、多模态接入等几重挑战;其次是指令微调,难度远高于预训练,而让模型的回答‘对齐’人类思维习惯也非常困难;再次是能力强化。”
邱锡鹏认为,大型语言模型技术的快速演进,已经给人类展现出一个通向“通用人工智能”未来的大框架,下一步最重要的便是让大模型和现实世界“对齐”,保证模型对人类的可信、诚实、有助、无害至关重要。“在让模型自我学习、自我迭代的过程中,最重要的就是人必须参与其中,以保持机器与人类价值观、思维方式的对齐,否则就可能会离我们人类的偏好越来越远。”
当语言模型向人类的价值观和思维方式对齐,并应用于真实世界,无疑将颠覆各个行业生态。圆桌对话环节,嘉宾们就人工智能的现状和未来展开对话,进一步讨论了人类可能将要面临的时代变革。
关于人与机器的关系,邱锡鹏认为AI替代不了那些会使用AI的人的工作,人类具有适应性和灵活性,更擅长的是利用AI的能力把工作做到更好。在这样的背景下,人类的思考和判断能力需要再度强化,变得更加明确。他表示,目前为止AI依然在可控范围内发展,但当它成为某种基础设施后,如何控制其能力就将变得十分关键,相关的法律法规、政府的重视、社会的认同,都将参与进整个生态中来。
严锋从自身所在学科出发,高度关注ChatGPT对创意写作的冲击,以及其对中文系学术研究和教育带来的影响。“可以确定的是它可以成为很好的写作助手,能够提供各种各样的信息与材料。”但另一方面,他强调文学艺术需要发挥想象力、创造力,“起码在文科和社会科学领域,目前我们还无法完全依赖ChatGPT。”他期待ChatGPT推动人们从低效、重复的学术大山解放出来,专注于更具独创性的知识学习。
作为从事人工智能技术产品化的业界人士,沈李斌看到的则更多是如何用AI替代掉简单重复人类劳动的问题。据他介绍,目前客服机器人已经替代了百分之七八十的人工,这也是其所创办乐言科技的主营产品之一。“机器完全有能力替代很大一部分重复性劳动,那么人类的精力就可以留做一些更积极主动的工作。”沈李斌认为,这种生成式能力将在企业里发挥非常重要的作用,提高各个流程的效率。同时,基于生产力的解放,很多企业与企业之间的上下游关系也将产生变化,大量结构性的机会正蕴育其中。
张诚对比了ChatGPT与曾经人类在二十多年前试图打造的“知识库”,指出前者可以帮人类再总结,通过人类更容易理解的方式来交流,可能会造成更大的改变。但他也提出,人类从不依靠大量的数据和复杂的模型计算来进化,而是结合对现实的观察和我们引以为豪的逻辑思维实现知识水平的提升,因此与人工智能的发展是两种不同的路径。
复旦科创先锋论坛由复旦大学管理学院主办,复旦大学MBA项目、复旦大学管理学院科创办公室和管理教育推广与发展中心共同承办。作为响应复旦管院全面实践“科创战略”推出的系列科创主题论坛,“复旦科创先锋论坛”将持续邀请具有扎实研究成果和丰富经验的专家学者、科创企业家,聚焦新一代信息技术与人工智能、生物医药与大健康、新材料/新能源/高端制造与装备等前沿赛道,分享前沿科创技术与趋势、洞察科创企业管理难点和痛点,探究总结科创企业发展规律,助力中国科创事业进步。