北京通用人工智能研究院BIGAI

“为人文赋理,为机器立心” ,朱松纯教授在图灵大会阐释“通用智能·人机共生”

2023年7月28日至30日,第五届ACM中国图灵大会在武汉召开。本次大会以“通用智能,人机共生”为主题,由武汉大学、清华大学、北京大学、东湖高新技术开发区、北京大学武汉人工智能研究院等国内多家高校和研究机构联合主办。来自全球各地的2000余名专家学者和学生汇聚一堂,共商人工智能领域的重大前沿问题。

图释:第五届ACM中国图灵大会北京通用人工智能研究院院长朱松纯教授出席本次大会。为阐释大会主题“通用智能·人机共生”,朱松纯教授于7月28日晚的“围炉夜话”活动和29日上午的全体大会开幕式,分别发表了题为《为人文赋理,从人工智能研究视角看中国思想》和《为机器立心,迈向通用人工智能》的演讲。

前者意在唤起人们用人工智能模型解读中国优秀传统哲学思想的新思考,阐释了在即将到来的智能时代如何实现“人机共生”的新命题;后者阐明了通用智能的概念,解答了什么是通用人工智能、如何实现通用人工智能、以及迈向人机共生的智能时代等重要问题。

一、为人文赋理,从人工智能研究视角看中国思想

7月28日晚,朱松纯教授出席了大会前夜的“围炉夜话”活动,以《为人文赋理,从人工智能研究视角看中国思想》为题,与在场师生展开了两小时的轻松讨论。

图释:朱松纯教授在图灵大会“围炉夜话”做《为人文赋理,从人工智能研究视角看中国思想》的交流

交流中,朱松纯教授延续了2021年图灵大会围炉夜话《三读赤壁赋,兼谈心与理的平衡》的话题,再次探讨当代人工智能研究和传统人文社科研究的双向连接。

图释:从物体到生命体、智能体、智人、文明和人机共生的持续演进历程。

智能的产生与演进历程。朱教授从无生命的物体到生命体、智能体、智人、人类文明和人机共生的持续演进历程入手,讲述了现代科学包括物理、化学、生物、信息科学、智能科学、到社会科学(政治、经济、管理)都是以这个演进过程的不同阶段与尺度为研究对象。他认为,在这个持续的演化频谱中,系统结构变得越来越复杂,所需描述的变量越来越多,新的空间不断产生、升维。从物理层级的各种相互作用,化学层面的各种共价键,到生命科学层面的氢键(核酸、蛋白质折叠)都是由各种势能函数U来刻画与建模的。一个重大的质变是出现了具备自我意志、价值驱动的智能体,产生了大量结构化的认知空间(认知的升维),进而产生了各种复杂的社会结构(institutions),这个演化过程是由各种价值函数V来刻画与建模的。他提出U-V双系统理论来刻画从U(客观)到V(主观)的连续频谱。

中国思想的演进历程。中国思想的产生和演化涵盖了对上述客观与主观世界包括自然、人性、社会乃至智慧(菩提产生的机理)的认识过程,并在此基础上塑造形成了独特的世界观、价值观和伦理规范。在特定的地理气候和周边环境等边界条件下,中国不断借鉴了其他的文明与思想,产生了极具包容性和多元化的中华文明,其本质就是一系列随时间不断迭代发展的U与V模型。

图释:中国传统思想的演进历程

把中国思想中的各种模型与现代科学的模型这两个轴线做一个对比与映射,就可以更好地理解与解读一些人们日常熟知的概念和思想,进而理解中国思想的发展历程、基本轮廓与本质精髓。

朱教授然后逐个介绍古代的河图、洛书、阴阳、五行、八卦、风水的模型。通过自然图像的产生机理与统计数据的分析,他论证了阴阳是人类观察自然图像的最根本特征,展示了自然图像的微分尺度不变特征,解释了为什么说“变是最大的不变”这一哲理。八卦则是古人对世事的时空特征做的模式归类(pattern clustering),他接着解读了《易经》是世界最早的尺度不变的统计决策模型,六十四卦代表的是64个基本状态,其状态跳转的规律被看作马尔可夫决策过程,伴随着各种激励函数(元、贞、利、亨,吉、吝、厉、悔、咎、凶)。占卜的本质是获得随机数而进行的蒙特卡洛采样,以简单随机事件来模拟复杂的事件。这与现代人工智能的一些模型,如大家熟知的下围棋的AlphaGo在本质上是一样的。

随后,他又分析了影响中国人思维模式的因果观念,因为其强大的解释能力,成为中国人思想上的一种钢印。但是佛教中的某些因果模型缺少干预、反事实推理的能力。进而从通讯与认知模型的角度解读拈花微笑、一指禅、德山棒、临济喝,禅宗机锋的认知机理。经过人工智能模型的梳理,可以看作是突破香农极限的高阶通讯方式。

朱教授接着解释了大乘佛教的“缘起性空”、“相由心生”等深刻的思想, 这些古代理念的产生走在了现代科学之先了。他还介绍了汉字作为知识表达的体系,其造字的精妙利用了人类的心智模型,从而可以用单个汉字表达很多复杂的抽象概念,如道德、奋斗。

对于中国思想的主线条,朱教授分析了儒学的仁义、王道、理学、心学。儒家重视社会伦理,发展出了相当丰富的价值体系,包括王阳明的良知,这些思想将是人工智能需要着力发展的方向。价值体系方面, 包括美学、厚黑学,朱松纯教授都有别开生面、生动有趣的人工智能数理解读。

演讲最后,朱松纯教授回顾了1919年以来东西方文明的碰撞与融合, 展望了2020之后人类文明所面临的通用智能体的冲击,让大家对正在到来的人机共生的智能时代做好准备。

图释:文明的互鉴与智能时代的人机共存

在他看来,任何一个个体的智能体,还是一个社会与文明,都可以用U,V函数体系来表达,那么西方社会的思想体系是U1、V1,中国社会、思想体系是U2、V2,那么未来的通用智能体的体系是U3、V3,并会在人机共生时代,进一步演变为U*、V*。最近,北京大学在武汉光谷成立人工智能研究院,主旨就是建设智能社会治理基地,探索智能时代的文明与道路,以通用人工智能助力中国式现代化建设。

朱教授提到,西方大学系统中,继理工科之后,政治、经济都成为了科学,唯独人文与艺术与科学并列。现在艺术已经越来越结构化,人工智能已经全面介入艺术的创作与评估,特别是音乐与绘画。人文是离科学最远的学科群,未来,当通用人工智能造出能力与价值与人类相匹配的通用智能体,我们就有足够的能力来解构人文,让人文成为一门科学。

整个报告会场座无虚席,气氛热烈。图灵大会与会者绝大多数都是理工科的学生学者,大家纷纷表示这场“围炉夜话”给大家带来了一个全新的视野,既叹渭中国传统文化的博大精深,又深感学科交叉的魅力,在今后的研究工作中,要将人工智能的研究与中国人文思想相结合,去探索新的领域,创造符合人类伦理与价值观的通用智能体。

二、为机器立心迈向通用人工智能

7月29日上午,朱松纯教授在全体大会开幕式上发表了题为《为机器立心,迈向通用人工智能》的演讲,阐明了什么是通用人工智能、如何实现通用人工智能以及迈向人机共生的智能时代等关键技术路径。

图释:朱松纯教授在全体大会开幕式上做《为机器立心,迈向通用人工智能》的演讲

什么是通用人工智能?朱松纯教授表示,人类是在地球的复杂物理环境中演化而成的通用智能体。智能是通用智能体在与物理环境和社会的交互中产生的各种现象,不仅包括个体尺度上的智能,更涵盖了社会尺度上的智能。通用人工智能研究的目标是寻求统一的理论框架解释各种智能现象,并研发具备自主的感知、认知、决策、学习、执行和社会协作等能力,且符合人类情感、伦理与道德观念的通用智能体。

朱松纯教授明确提出通用智能体需具备的三大基本特征:(1)完成无限任务,包括在复杂动态的物理和社会环境中没有预先定义的任务;(2)自主定义任务,像人类一样自主产生并完成任务;(3)由价值驱动,智能体要像人一样由价值V驱动能力U。当前的人工智能研究还大多集中在数据驱动的统计建模与学习,亟需增进因果推理能力,这是链接智能体的内在价值和外部行动,构成价值-因果-行为链条的关键所在;并开放具身能力,这是智能体能够进入现实世界与人和环境交互,执行并完成任务的基础。而当前的ChatGPT大语言模型还不具备以上这些特征的任何一个。

朱松纯教授提出,通用人工智能系统还需具备两个完备性,所谓AI  Completeness:(1)完备的认知架构,即任意一个AI任务都可映射到该架构中解决,并能分析任务的复杂度;(2)完备的测试环境,即可提供任意复杂的物理与社会场景,将人类可能遇到的任务均可在平台上复现。

如何实现通用人工智能?朱松纯教授认为,实现通用人工智能的关键在于“为机器立心”。为此,研究人员需解决认知架构、价值驱动、具身智能、社会智能、可解释性、人机互信等重要问题。

朱教授以大量通俗的实例和科研成果展示了这些重要问题的研究进展。

(1)认知架构:认知架构是通用人工智能的表示框架,也是构建心与理U-V双系统价值驱动的根本。它构建了一套完整的认知体系,包括心智模型、通讯学习等理论。这是通用智能体与人类通讯、交流、信任、合作的基础。只有建立了完备的认知架构,通用智能体才能实现与人类的四个对齐(Alignment):共同的态势感知(Shared situation)、共同的演化模型(Shared predictive model)、共同的行动规范(Social norm)、共同的价值观(Shared value)。认知架构的重点在于实现“小数据、大任务”范式。决定人工智能系统的三个关键要素是架构、任务和数据,不同的选择导致不同的系统和路径。只有“小数据、大任务”范式才能摆脱掉“大数据、小任务”对数据的强烈依赖,以及模型不可解释、缺乏价值驱动等弊端,从而实现具有感知、认知、推理、学习、执行等能力的自主智能。

(2)价值驱动:人类行为本质上受价值驱动。智能体可以通过观察人类的行为,学会和理解人类的“价值”,做到“察言观色”,时刻明确个人当前的价值需求,进而调整行为决策,自主产生并完成任务,才能实现通用智能。价值函数(Value)是U-V双系统中V系统的表征。驱动通用智能体的内在价值函数的集合构成了价值体系,包含了个体基本生理与安全需求、社会需求、好奇心与自我潜能实现,以及群体利益等多个层级。机器的价值必须跟人类的基本价值观对齐。只有建立了“良知”之心,通用智能体才能被人类广泛接纳。

(3)具身智能:具身智能是智能体使用身体完成物理任务的现象,其核心之一是“知行合一”。中国哲学家早已认识到“知行合一”的理念,即人对世界的“知”建立在“行”的基础上,这也是通用智能体能否真正进入物理场景和人类社会的关键所在。其核心之二在于“身体力行”。只有将智能体放置于真实的物理世界和人类社会中,让它们躬“身”体验环境物体、符合物理因果,才能切实了解并习得真实世界中事物之间的物理关系和不同智能体之间的社会关系。

(4)社会智能:社会智能是人类在适应更为复杂的社会情境中所展现的社会认知能力。从进化的角度看,社会智能的发展对于人类的适应至关重要。社会智能具有密不可分的三方面:社会感知、心智理论和社会交互。研究社会智能有助于研究者设计出具有人类特征的交互智能体,使其做到“察言观色、眼里有活、主动帮助”。今年3月,北京通用人工智能研究院认知计算与常识推理实验室联合北京大学人工智能研究院在CAAI Artificial Intelligence Research期刊上发表综述论文”Artificial Social Intelligence: A Comparative and Holistic View“,呼吁学界对人工社会智能领域进行关注。

(5)可解释性:可解释人工智能指的是智能体以一种可解释、可理解、人机互动的方式,与人工智能系统的使用者、受影响者、决策者、开发者等,达成清晰有效的交流沟通,有效地“解释”自身行为和决策,以取得人类信任,同时满足各类应用场景对智能体决策机制的监管要求。解释是一个多轮次沟通的过程,其目的在于取得对方的理解、建立信任、达成合作、提高协作的效率。智能体只有有效地“解释”自己,才能取得用户的“信任”,从而产生高效的人机协作。

北京通用人工智能研究院于去年发表了“实时双向人机价值对齐 Bidirectional human-robot value alignment”研究,论文同时被Science官网和Science Robotics官网头条刊登。这篇论文提出了一个可解释的人工智能系统,阐述了一种机器实时理解人类价值观的计算框架,并展示了机器人如何与人类用户通过实时沟通完成一系列复杂人机协作任务的过程。

(6)人机互信:信任是人类在社会协作中的一种心理状态,一般分成两个层次:一是对其能力U的信任,即个人对周围的每个人、在某个条件下、是否合适做某件事,都有不同程度的信任;二是对其价值V的信任,包含了态度与感情。信任的本质是人类愿意暴露自己的“脆弱性”。这是人类在没有更好选择的情况下做出的决定。从理论上讲,其风险底线需要通过经济学范畴的合同来规范。人类与智能体也要“签合同”来实现人机互信。这需要智能体由内在价值函数驱动,通过价值对齐与认知架构形成通用智能体与人交流合作的基础,通过具身智能和社会智能实现机器与环境和人交互,通过可解释性的沟通和价值对齐形成人机信任关系,由此才能实现人机共生。

朱教授在演讲中演示了一批来自北京通用人工智能研究院的成果,包括正在打造的实体与虚拟的通用智能体,与一个通用人工智能训练与测试平台TongTest。

三、迈向人机共生的智能时代

在此前的北大智能学院2023年毕业典礼上,朱松纯教授提出,人机共生的智能时代即将来临,人工智能研究者要做智能时代的先知、先觉、先行者。

先知者,要提前预判时势的到来。从蒸汽时代、电气时代、信息时代到智能时代,技术的突破不断演化出新的社会文明形态。随着智能时代的来临,通用智能体的出现,其数量将超过人类。人类文明与人工智能将有新的冲突与融合,出现人机共生的新文明形态。通用人工智能的发展将会重塑人类文明。

先觉者,要率先觉悟到时代的使命。智能时代的根本使命之一是“为机器立心”,即用人文社科的思想赋能人工智能发展,让机器学会人类的价值观,创造新的人工智能范式,其根本使命之二是“为天地立心”。北京大学武汉人工智能研究院在武汉东湖高新区建立了我国首批智能社会治理的综合实验基地,其使命是探索面向智能时代的中国式现代化社会治理方案,用技术手段为一座城市立一颗“心”。基地将充分发挥北京大学在人文社科、智能学科的科研力量,深入探索社会的形成与演化机制,基于大数据在社会层级上模拟通用智能体,构建多尺度多维度的大型模拟系统,从各方面优化城市管理系统,推动文明进步。

先行者,要勇于引领时代的变革。在智能时代,智能学科肩负三重使命:(1)为学生立心,培养具有认知能力、独立思考、明辨是非的时代新人;(2)为机器立心,打造符合人类价值的通用智能体;(3)为天地立心,求解社会公平正义的新方程式,探索人类文明的新范式。

“为人文赋理、为机器立心”是一体两面的通用智能核心理念。其愿景是创造可解释的、安全的、给人类带来福祉的通用人工智能,即“以中国之思想,创世界之科技”。

面对未来人机共生的挑战,朱松纯教授建议研究者重新思考人性、人文和文明,以“为人文赋理、为机器立心”为指南,将智能体的认知架构和价值观与人类文明的认知架构和价值观相融合,以产生更高层级的智慧文明形态,实现人类文明与通用智能体合作共生。

世界正在经历百年未有之大变局。基于中国原创的东方哲学思想,面向智能社会治理,中华文明将在探索智能时代的中国式现代化道路上贡献中国智慧和中国方案。

编者按:朱松纯教授后续将分别推出《为人文赋理,从人工智能研究视角看中国思想》《为机器立心,迈向通用人工智能》两篇深度长文,更全面、系统地解读“人工智能和哲学”的新思考、“通用人工智能”的技术范式、“迈向人机共生的智能时代”的新命题。

Facebook
Twitter
LinkedIn
Email