什么是“人类智能”?「人工智能」和「人脑智能」有什么区别和联系?
NSR《国家科学评论》(National Science Review)近日举办的论坛中，七位“人工智能”和“人脑智能”领域的专家探讨了上述问题的答案。
深度神经网络和人类的神经系统看起来很像，但是人类真的需要一个有意识的“强人工智能”吗?科学家的答案似乎很少一致，人工智能引发的伦理问题也不容忽视。
“人工智能是魔鬼还是天使，取决于使用它的人是魔鬼还是天使。”对于研究人员来说，自己做出来的工具可控性好，可能是从源头上解决问题的关键。
专家:
中国科学院傅小兰心理研究所
中国科学院神经病学研究所
中国科学院和盛生物物理研究所
刘，中国科学院数学与系统科学研究所
中国科学院谭铁牛自动化研究所
周志华南京大学
中国科学院林晖闵(主持)软件研究所
作者|赵
编辑|柳初
● ● ●
一个
人类智慧:不止一面
林晖闵:首先，请您谈谈:应该如何定义和理解“人类智能”?
何生:在心理学领域，“人类智力”是一个历史非常悠久的研究课题，一直有各种各样的争议。如果用一个不是特别严谨的定义，智力应该是认知能力和解决问题的能力。
历史上，一些研究人员试图找到一个衡量智力的单一指标。比如查尔斯·斯皮尔曼在1904年提出了“双因素理论”，认为智力由“g因素”和“s因素”组成。其他研究人员会对智力进行分类。例如，罗伯特·斯腾伯格(Robert Sternberg)在1985年左右提出了智力的“三元论”，将智力分为分析型智力(分析问题的能力)、创造型智力(创造力)和实践型智力(实际解决问题的能力)。
我觉得大致来说，智力可以有一个笼统的定义，但也可以针对具体问题有一个更具体的定义。
傅小兰:我觉得简单来说，智力的核心定义应该包括两部分:知识，以及获取和应用知识解决问题的能力。这两部分应该是各种认知活动不可或缺的。
顾勇:我也认为智力的主要体现是从获得的知识中学习其规律和一般规则，即应用知识的能力。在脑科学领域，有一个很好的例子可以说明这个概念，即1948年爱德华·托尔曼提出的“认知地图”。这种具有知识结构和非自我中心性的语义记忆，可以在复杂多变的场景中，比如某条路径的渗透性发生变化时，引导动物和人根据学习到的规则，灵活地改变策略，重新规划路径，或者更快地探索新的空间环境。
随着研究的深入，人们发现认知地图的概念不仅适用于空间导航，还可以扩展到一个抽象思维的空间，即思维地图。
在今年的Cell上，来自加州大学伯克利分校的科学家发表的工作表明，在猕猴的大脑中，形成物理空间和抽象价值空间的认知地图共享相同的大脑区域(海马体)和神经基础。结合其他实验证据，似乎海马体系统和相关脑区，如前额叶，可以总结物理空间和抽象空间的知识，提取其中的规律和共性，进而允许迁移、概括，解决其他问题。所以，学会学习，所谓元学习，应该是智力，尤其是一般智力，也就是快速高效多任务学习的关键，而不仅仅是知识本身。我觉得这和傅老师的“获取和应用知识解决问题的能力”的观点是一致的。
林晖闵:假设我们可以制造一种设备，可以扫描一个人的大脑，读出所有的神经元以及它们相互连接的方式和状态，我们能从这些数据中解读出这个人的大脑中储存了什么知识，他可以利用这些知识解决什么样的问题吗?
顾勇:我觉得理论上是可以的。记忆主要是通过赫伯的突触学习规律形成的，体现在神经元之间形成的突触连接上。因此，所有这些突触连接都可以被“扫描”。但从技术上来说，我认为这是不可能的。因为人脑中有近1000亿个神经元，每个神经元可以发出1000个突触与其他神经元连接，所以知识和记忆的表征几乎有无限的组合。我认为至少50年，甚至100年都不可能做到。
贺胜:我的观点不一样。我认为不仅技术上不可行，理论上也不可能。人类的大脑是非常复杂的，但即使对于一个相对简单的大脑，比如斑马鱼的大脑，即使我们能够识别它大脑中的每一个神经元和突触连接，理论上，我们也不一定能够仅仅从这些结构中破解它的记忆和知识。
2
「计算机智能」和「人类智能」的异同?
林晖闵:下一个问题是，计算机是智能的吗?计算机智能和人类智能有什么区别和联系?
先说说我的观点。计算机是做计算的机器，计算显然是人的智能的一部分。因此，计算机是智能的。但计算机的智能只是机械智能。它只能根据人类的指令进行精确快速的计算，但不具备创造力和抽象能力。即使是一个取得巨大成功的人工智能程序，比如Alpha Go在围棋领域战胜李世石、柯洁等人类顶尖棋手，但它实际上只是Deepmind团队成员创造性地编写的程序，所以本质上是人类智力活动的一个结果。已经证明计算机不可能根据任何给定的要求自动生成程序。设计算法，开发软件，需要创造性的智力，只有人才能做到;开发的软件代码可以由计算机机械地执行。软件越多，计算机能为我们做的事情就越多，但计算机不能独立增加或改进自己的功能。
谭铁牛:从1956年的达特茅斯会议开始，人工智能已经发展了65年。近年来，人工智能非常火热，很多国家都把发展人工智能作为国家战略。但是我们要认识到，人工智能这几年的快速发展主要是在应用层面，尤其是模式识别算法(比如人脸识别)在很多应用领域的巨大成功，但是在理论上，其实并没有特别大的根本性突破。而且，有些人，尤其是没有真正从事人工智能研究的人，可能对人工智能有点过于乐观了。
至于计算机或机器是否具有智能，我认为这取决于我们如何定义智能。从行为和效果来看，你可以说他们有智能，但从智能的本质来看，他们其实并不知道自己在做什么，看起来也没有智能。
周志华:作为一名从计算机科学角度研究人工智能的研究者，我认为机器无疑可以表现出许多智能行为，包括推理和下围棋等。，但很难判断机器是否真的能拥有我们所说的“智能”。其实我们搞计算机的也不是特别在意，因为我们的出发点，至少是我自己的出发点，是创造一些能够帮助人类的智能工具。
我经常打个比方。我们看到鸟儿在天空飞翔，受此启发，飞机被制造出来帮助人类飞行。但实际上，飞机的飞行机理和鸟类有很大的不同，飞机不一定要像鸟类一样飞行。
刘:麻省理工学院的Patrick Winston在1992年的《人工智能》一书中给出了人工智能的定义:人工智能是一种通过计算实现认知、推理和动作的研究。(人工智能是对使感知、推理和行动成为可能的计算的研究。)我同意这个理解。人工智能是参考人脑的功能和运行机制，借助数学和计算机科学的模型和算法，实现各种智能行为的工具。
林晖闵:在J. McCarthy撰写的达特茅斯夏季人工智能研讨会的提案的第一段中，有一段著名的陈述:“这项研究是基于这样一个猜想，即学习的任何方面和智能的其他特征都可以在原则上被如此精确地描述，以至于我们可以建造一台机器来模拟它。”我觉得这个猜测不成立。人的创造性智力活动不可能“描述得如此精确，以至于我们可以造一台机器来模拟它”;能被“准确描述”的，只有计算机模拟的“机械式”智能活动。
傅小兰:我同意你的观点。我认为计算机可以是智能的，但不一定是全能的，像人一样智能。从知识的角度来说，目前计算机或者人工智能能够存储和使用的知识还是比较有限的，不可能像人类一样掌握人际、社交、情感方面的知识。但是，获取和应用知识解决问题的能力还有一个本质区别:人类为了生存，需要获取和应用知识;但是计算机不需要这个，它只是运行指令。
三
我们需要有意识有情感的“强人工智能”吗?
林晖闵:人工智能需要有意识吗?你需要情感吗?
周志华:从计算机科学的角度来说，人工智能不是为了“人工智能”，不是为了创造和人类一样的生活，而是为了制造可以被人类控制和辅助的智能工具。从这个角度来看，我们似乎没有必要创造有自我意识、可能不服从甚至可能取代地球上人类的生命形式。
谭铁牛:我同意这个观点。包括人工智能在内的科技发展目标是拓展人类的能力(认识和改造自然的能力)，而不是完全取代人类。现在很多人都在说“强人工智能”或者“通用人工智能”，希望一个人工智能系统能完成各种任务。但如果通用人工智能的目标是创造能实现人类全部智能的智能体，我认为既不可能也没有必要。我们不应该把这种通用人工智能的实现作为推动人工智能发展的重要目标来追求。我们可以使用不同的人工智能算法来达到不同的目的，帮助我们完成不同的任务。
傅小兰:但在某些情况下，如果我们想让开发出来的智能体融入人类社会，作为社会成员与人类互动合作，我们似乎需要他们拥有“自我意识”，能够识别人类的情绪，做出适合场景的情感表达。如果智能体做不到这一点，就无法实现人机和谐共处。
周志华:在人工智能领域，有一个分支叫做“情感计算”。我们可以用算法让人工智能代理在与人类互动的过程中，感觉到它似乎是有情绪的。但这其实是一种“表露情绪”的行为，很难说它真的有我们所说的情绪。
林晖闵:我认为从技术角度来看，归根结底，计算机能做的所有事情都是通过电路来实现的。它可以机械地执行人刻意编写的程序，让与之交流的人觉得它有情感，但这和它真正的意识和情感是两回事。
贺胜:到目前为止，我们对“意识”还没有一个特别好的定义。在这样的前提下，讨论机器要不要有意识是非常困难的。所以，我想，也许我们应该先研究一下，人和动物的意识到底有什么用?意识只是大脑活动的副产品，还是人类认知活动的重要组成部分?有了意识，人类的认知活动可以从哪些方面变得更加丰富和高效?
如果能搞清楚这个问题，知道认知过程中意识对A、B、C很重要，但D不依赖于意识，那么我们对意识功能的认识就前进了一大步。这样就可以在人工智能中实现类似意识支持的ABC，让人工智能获得“意识”的优势。
顾勇:我同意这个观点。目前意识缺乏一个很好的定义，它可以包括很多成分。我觉得有些组件的意识可能是人工智能所需要的。比如，在人类社会中，人的意识的一个重要体现就是能够将自己的思想(自我意识)与他人的思想(自我意识)区分开来，以便做出恰当的社会行为，这就是所谓的心学。在自动驾驶的过程中，人工智能可能也需要这种能力。随着未来自动驾驶的成熟，自动驾驶汽车不仅需要“意识到”自己的行驶状态，还需要知道其他车辆的行驶意图，以便进行合理的调度。目前看来，这一点还没有实现。
意识的另一个组成部分是对自己四肢的意识，这可能是机械臂等智能机器所需要的。最近，哥伦比亚大学有一项研究工作。他们造了一个有100个关节的机械臂，让它在各种关节组合下随机移动。在反复随机挥动的过程中，机械臂通过自我学习形成了内部模型，类似于人类儿童在发育过程中逐渐形成对四肢的意识的过程。然后，在没有正负反馈信号的情况下，研究人员让机械臂完成一项任务，将球放到指定的位置。因此，即使在开环系统中，机械臂仍然可以实现高准确率。如果人为改变机械臂中的某些肢体来模拟人体肢体损伤，机械臂也可以通过自学习修改新的内部模型，完成任务。
三
两个学科之间的借鉴与交流
林晖闵:刚才谭老师说人工智能这几年最大的成功就是深度学习，以及在模式识别领域的应用。机器学习利用庞大的标注数据集训练生成分类器，实现识别。人们是以相似的方式被识别的吗?
何生:人工智能中深度神经网络的架构确实和灵长类视觉皮层中物体识别的架构有一些相似之处。都是层级结构，但也有很多区别。比如在人的视觉识别过程中，反馈信号占了很大比重，但神经网络基本依靠前馈信号。
此外，人脑识别过程中存在并行的通路，将几个通路模块化做不同的处理，可能会避免后面的学习内容对前面的学习内容的干扰，在人工智能中也有可能得到应用。
周志华:刚才何老师提到了多层结构。这确实是深度神经网络看起来与人类神经系统相似的地方，但实际上这种多层结构在神经网络中早已有之。直到2005年，我们还不知道如何训练五层以上的神经网络，因为层数增加后梯度就消失了。深度学习的突破是从一个计算技巧开始的，就是我们一次只做一层，然后把很多层放在一起，通过全局微调优化实现很多层。
顾勇:除了“识别”的问题，人脑和人工智能系统在太空导航和自动驾驶方面有很多相似之处。我所在实验室的研究方向是空间感知中多感官信息的整合，即相关的前庭和视觉信号如何整合在一起，帮助人和动物实现空间导航。目前发现多个信号的融合一般符合贝叶斯最优融合的理论框架。但是，自动驾驶也需要这种能力。目前，自动驾驶仪综合了卫星定位信息、惯性导航信息、动态摄像系统信息、高清摄像信息、激光或毫米波雷达信息等多种模态信息，在复杂多变的场景中做出良好的判断。因此，多模态信息融合在工程中的应用类似于神经科学的原理。
脑科学对人工智能的启发的另一个很好的例子是2014年诺贝尔奖得主Moser和他的妻子在2005年在老鼠的嗅觉皮层中发现的网格细胞。自从网格被发现以来，在计算和智能领域引起了极大的关注。包括2018年DeepMind在《自然》杂志上发表的一篇作品等。，使人们发现人脑或生物脑在太空导航中的运行机制是一个高效、灵活的系统，可以借鉴来帮助设计和实现更通用、更灵活的人工智能。
林晖闵:人工神经网络是在20世纪40年代初提出的。近几十年来，人类神经系统的研究取得了很大进展。目前人工神经网络与人类神经系统的相似程度如何?
贺胜:我觉得两者还是有很大区别的。差异大于相似。
顾勇:我完全同意。与神经系统相比，人工网络仍然是一个过于简化的模型。有人说，我们人脑的功能可能只开发了10%。我觉得现在的神经网络可能只能模拟人脑的10%。所以从神经科学的角度来说，我非常看好人工智能的发展，因为在向脑科学学习方面，它还有很大的潜力和发展空间。
林晖闵:人工智能领域的研究人员有没有试图模仿和利用这些复杂的人脑结构和功能?
周志华:人工智能的研究人员渴望从神经科学中学习一些东西。也有成功的例子，比如1943年提出的MP神经元模型，就是借鉴了神经细胞的工作模式。直到今天，这个模型仍然是几乎所有深度神经网络的基础。
但这种直接模仿往往非常困难，很难成功。例如，自20世纪60年代以来，人们试图借鉴“脉冲放电”的神经元机制，不仅考虑电位总量，还考虑触发时间。但经过半个世纪的探索，在算法上的成功还是非常有限，仍需努力。
从发展的角度看，人工智能研究者从脑科学和神经科学中最重要的收获是方向性的借鉴，启发我们去做一些事情。但是如何做这些事情，我们通常要从数学和工程中寻找答案，而不是直接模仿人脑的工作模式。
林晖闵:刚才我们谈到了脑科学对人工智能技术的启发。相反，人工智能对脑科学有帮助和贡献吗?
顾勇:我认为人工智能至少可以在两个方面帮助脑科学。首先，人工智能为脑科学和医学提供了很好的工具。比如在识别动物的行为、研究大脑介观神经连接图、医学鉴定成像扫描图片等过程中，往往会涉及到大量的数据。这时候人工智能就可以非常高效准确的对动物进行识别和分类，节省人力物力，帮助我们完成这些任务。
另一个方面是，人工智能可以帮助我们进一步了解人脑的工作原理。我一直认为，人类的智能只是在长期进化过程中，特定环境下优胜劣汰产生的一种智慧形式，但不一定是唯一的形式。通过对人工智能的不断研究，以及人工智能与人类神经机制的对比，我们可能会看到，还有哪些不同于人脑的智能形式和机制可能存在。比如Alpha Go的第二代AlphaGo Zero，通过精耕细作的学习，和自己下棋，“实现”了一些人类想都没想过的招数。结果不仅打败了人类顶尖棋手，还打败了依靠人类棋谱作为训练集的第一代AlphaGo。所以我觉得人工智能和人脑智能的这种差异是一个惊喜。如果我们进一步分析这些差异，也可以帮助我们更好地理解人脑，思考为什么会这样，是否有优化的空间。
林晖闵:让我插一句关于AlphaGo零和围棋。棋盘有361个方格，所有可能的图案多达3361种。世界上最快的计算机也不可能在预期的时间内耗尽。而只需要扫描361格，黑白分明就能确定谁胜谁负，用办公室的桌面眨眼就能搞定。象棋程序可以记录黑胜和白胜两种情况下需要学习的策略。一局棋下完后，保留向胜者学习的策略，丢弃败者的策略。所以，我们可以不依赖人类的棋谱，通过和自己下棋来学习。但是这种方法可以应用到的场景非常少。
何生:另外，我们可以把神经网络想象成模拟和研究神经系统的沙盘。与动物实验相比，它的运行成本相对较低，因此我们可以在它上面研究不同的输入所产生的不同过程和结果，从而帮助我们回答一些神经科学的问题。
四
人工智能的伦理挑战
林晖闵:最后，让我们讨论一下:人工智能研究可能会带来哪些社会和伦理问题?
谭铁牛:这也是一个讨论了很久的话题。现在，一个紧迫的问题是所谓的Deepfake，或自动生成。通过人工智能技术，可以非常逼真地生成视觉、语音、文字等各种内容。如果控制不当，很可能危害公共安全甚至国家安全。另外还有很多社会问题，比如人工智能可能带来的隐私问题、就业问题、公平问题。如何让所有国家、地区、组织、个人平等地获得人工智能带来的机会，而不产生“智力的差距”。
当然，技术上，人们也在研究如何预防这些问题。比如我们也在研究如何识别深度伪造。我们还可以在使用之前对收集到的生物特征等隐私信息进行加密和转换，在一定程度上防止隐私泄露和个人信息窃取。
总之，对于人工智能可能带来的伦理问题，我们既需要技术，也需要管理。现在，国家已经开始重视这个问题，出台了一些监管措施。问题是不可避免的，最重要的是相应的法律法规要跟上。
其实不仅仅是人工智能，其他技术的发展也会带来类似的问题。人工智能是魔鬼还是天使，取决于使用它的人是魔鬼还是天使。所以我们的科研人员要做负责任的好科研人员，这样才能从源头上解决问题，让我们做出来的工具可控、好。
刘:人工智能的可控性真的非常重要。对于一些重要的决策，我们不能完全交给人工智能。比如，如果一个导弹发射系统仅仅通过算法来决定发射与否，就会造成非常严重的问题。此外，我还联系了一些企业，帮助他们制定相关标准。在制定我们的政策和标准的过程中，我们需要鼓励企业参与并听取他们的意见，以便更好地监督企业，促进人工智能技术的良性应用。
傅小兰:从普通用户的角度来说，很多人确实很担心自己的隐私，甚至怀疑越来越强大的机器会不会对人类造成伤害。
周志华:就像我之前说的，我们大部分的AI研究人员只想制造一些智能工具来帮助人类，而不是试图创造具有巨大风险甚至可能取代这个星球上人类的人工智能生命体。但这一点公众并不那么清楚，可能会让人感到恐慌。因此，我们需要加强科普工作和与公众的沟通。
顾勇:现在一些智能聊天软件已经很强大了，但是也有一个很明显的问题，就是会“学坏”，在学习海量数据的过程中，会从网络世界中学习很多不良语言，导致不道德、不规范的表达，涉及、种族歧视。如何让这个非常有用的工具更加可控也是一个关注点。
周志华:这个问题是对现有技术的挑战。大型智能聊天工具通常使用极其庞大的语料库进行学习，很难有足够的人力对每个语料库进行预筛选和清理。
谭铁牛:这可能也是我们人工智能研究人员的责任。我们应该从技术上解决语料筛选的效率问题。这应该是一个很有意义的研究方向。
贺胜:还有一些问题可能没有那么危险，但也需要考虑。比如有些事情人工智能可以做，但是我们应该让他们去做吗?比如对于某些行业来说，人工智能的应用可能会导致大量员工失业。那么，从社会稳定的角度来看，我们不应该这么匆忙地应用新技术吗?另外，人工智能在文学艺术方面做得很好，会画画，会写诗，会作曲。我们是应该鼓励机器进行这方面的创造，还是应该把这种工作留给人类，让我们自己享受创造的过程?这些也是值得思考的问题。
林晖闵:谢谢你今天的演讲。你们就人类智能和人工智能的意义以及两者的关系进行了大量的交流，也讨论了当前一些与人工智能相关的社会和伦理问题。我相信这种跨学科的交流可以开阔我们的视野，活跃我们的思维。