英国皇家学会院士Peter Dayan和伦敦大学学院计算神经科学教授李兆平夫妇二人在上海论坛2018闭幕式上。
5月28日，上海论坛2018闭幕式在复旦大学举行，出席该会议并做主旨演讲的英国皇家学会院士Peter Dayan和伦敦大学学院计算神经科学教授李兆平夫妇二人接受了澎湃新闻记者的专访。访谈中，二位脑科学家对人工智能的研究方向，脑机结合的实现方式，人工智能面临的风险等问题做出了专业解答。
Peter Dayan 为英国皇家学会院士，2017年格雷特·伦德贝克欧洲大脑研究奖（简称大脑奖）的获奖者之一。2018年，当选为英国皇家学会院士。
澎湃新闻：人是生物体，有情感，有创造能力，那么人工智能是不是更应该和基因技术、神经元、脑科学这些与人类相关的技术相结合?
李兆平：我对基因技术不熟悉，我是做脑科学的，我回答这个问题可能会有点主观，脑科学是科学，人工智能是工程技术。解决AI最好是用科学的方法去做，当然在不懂科学的情况下，用工程技术也是可以做出有用的AI，就像做一辆马车，在根本不懂力学原理的情况下，可以做出来一辆很好用的马车。另外，有用的AI即使没有情感也关系不大，你看陌生人之间也没有情感，但也不影响他们之间的交流，只要这个人直来直去表达无误就好了。
Peter Dayan：用基因方法解决人工智能，有一个正面的因素和一个负面的因素，负面的因素是基因太复杂了，比如跟身高相关的基因就有70个，和一个神经质疾病相关的基因有1000个，虽然你知道这个病的基因根源，但是多达1000个基因关联，人就没有办法去调整基因去治病。正面的因素是，有些东西通过基因遗传让人天生就学会了，譬如狮子来了应该要逃跑这些知识，人出生后不用学习就知道。通过这个认识去理解，人做出的很多很重要决策可以从基因层面去理解，这是一个正面的影响。另外，人的情感其实是和基因有很紧密的联系。
澎湃新闻：正在播出的美剧《west world》是部关于人工智能的科幻片，剧中描述了意念通过机器输入大脑的场景，被操控者的人生就是输入者写好的剧本，现实中这样的情况会不会发生？
Peter Dayan：首先，这已经部分发生了，通过脸书之类的社交工具，人们已经被别人操纵，这还没有用到基因技术。此外，有很多人对一些东西上瘾，上瘾其实是人的大脑的奖惩系统被控制了，被控制的人就老想去做赌博这些事情。有一个实验，把一个电极插到小鼠脑子里，通过电击让这只小鼠经常去做同样的事情，它就一直喜欢做这个事情，其实是它被人为控制了。通过这个例子我们可以学习大脑是怎么控制我们的行为。所以从技术上讲，控制人的意念是可能做到的。虽然使用这个技术还可以治病，我们通过电击可以让有些帕金森患者不那么抖。这是伦理范畴的问题，但是，技术上的意念控制是可以实现的。
澎湃新闻：我们现在对大脑的认识达到什么程度？通过现在的研究能不能确定人工智能的研究方向？
李兆平：就像我前面讲的，AI人工智能其实是工程问题，脑科学是科学问题，如果要用工程技术去实现人工智能，不一定完全要造成人的样子，完全可以想造什么就造什么。再更高一层，我们要有一个智能的科目，就像生物科目，打个比方，人的智能是一个例子，人工智能是另外一个例子。在我们理解智能科学以后，就可以做出工程上的智能。科学上对智能的理解可以用人作为一个例子去研究，也可以用自己造出来的东西，但是这个是智能科学，有了智能科学就可以去造一个工程上的东西。
澎湃新闻：那能不能说现在我们使用的，工程学意义上的智能还是浅层次的技术。
李兆平：不能说它浅，工程和科学不能比谁高谁低。也就是说机械系和物理系，谁高谁低呢？工程系能造东西，物理系知道运动原理，我觉得这不能比，不能说谁高谁低。但如果知道了原理，可以把东西造得更好，但是不见得一定要知道原理才可以造飞机。
澎湃新闻：直觉是什么，有时候直觉很有效，怎么解释这种很快的思考方式，人工智能可不可以也有直觉？
Peter Dayan：很多决策非常难做，之所以难是因为信息太复杂、太多，最后无法确定哪个方案是好的。所以会出现走近路的思考方式，人会抄近路，机器也会抄近路。但是人抄近路和机器抄近路不一定是同样的近路。人抄近路有限制，人只吃这么点饭，能量就这么点，脑容量就这么大，而机器可以做很大，也可以有很足的电力支撑它运转，所以它抄近路和我们不一样。如果有智能科学，知道原理是什么，就可以知道人要抄近路该怎么抄，也可以帮我们决断该不该买房子这些麻烦问题。同时也可以决定机器抄近路怎么抄。
澎湃新闻：我的理解人本身是一个生物体，他做决策的过程应该是一个化学或生物的反应，而机器的思考，是物理上一个可重复、可控制过程，这两套思考方式将来能打通吗？
Peter Dayan：哲学上有一个功能主义，只要功能能够实现，靠什么硬件实现的没有关系，就像半导体，刚开始是真空管，后来变成三极管，二者硬件是不一样，但原理是一样的，所以不能说因为硬件不一样二者就打不通。飞行如何实现？不管你是用飞机的机翼来飞，还是用羽毛来飞，只要能够飞，跟他们的硬件不一样没有关系。
澎湃新闻：我猜想生物体肯定有情感，有情感的创造和电脑的思考应该是不一样的，但是电脑不管怎么进化，怎么演变都不会有情感吧？
Peter Dayan：要问你一个问题，情感是什么？
澎湃新闻：情感应该在人思考或者做决策中会发挥立场作用，比如爱、恨。
李兆平：情感归根到底是有多兴奋，还有是对某个事物的价值大小的判断，将二者放在一起就是情感。这样组合出来的东西可以放到机器上，机器是否用省电模式，可以是认为有多兴奋的问题。如果想让机器有价值观，就是选择的问题，譬如是应该把微信打开还是把照相机打开，谁先谁后，这是价值观的问题。情感可以是一个选择，情感可以是一种理解。体现在人身上就是我更爱你不爱他，我更爱微信不爱照相机，说到底其实是一种选择。
澎湃新闻：情感能被机器模拟，我有点意外。两台同样的电脑运行同样的程序，会得到同样的结果，但双胞胎他们从生物构成上是一样的，成长经历也高度相似，但是一般说来，双胞胎外貌相似，而性格、才能方面的差别很大。同样的人和同样机器为什么会有这么大的差异？
Peter Dayan：你说的双胞胎的经历相同是你的定义，其实他们是有不同的经历，会做不同的事情。两台机器一模一样，但如果它们有不同的境遇，它们学习的东西不一样，最后这两个机器是不一样的。其实这和双胞胎的原理是一样的，刚开始一样的双胞胎最后有了明显的差别，因为这个过程中肯定会有不同经历发生，这个双胞胎给爸爸抱得多一点，那个双胞胎妈妈抱得多一点，所以他们不能有绝对一样的成长过程，如果真的能让双胞胎的经历绝对一样的话，我觉得到最后他们是一样的。
澎湃新闻：人脑神经电信号这套机制可以用电脑模拟？
李兆平：原理上是可以的，实际操作上要看模拟得多细致，如果要模拟很细致是不太可能的，因为在原子、质子层面是不可能模拟得很仔细。比如你可以造出完全一模一样的房子，但是里面每一个细节，每一个原子都一样吗？那是不可能的，所以就要看做到多细微的程度。
澎湃新闻：马斯克、陈天桥正在做的脑机结合，这种大脑和物理电信号连接能实现吗？
Peter Dayan：当然能，技术已经有了，但这还是很粗糙的东西，而且这个技术出现了，并不是说肯定可行，问题在于这种脑机结合的交流是不是人们想要的东西，很糟糕的交流就不是有效的交流。或者可以问另外一个问题，怎么样的脑机接口才是人类想要的？因为接口是人和机器的交流，怎么样交流才是你想要的。比方说人工耳蜗，电极插在耳蜗里刺激耳蜗神经元，就可以让人听到声音，这需要人脑学习新信号，要学会适应这些信号就能听见。这是一个脑机结合非常好的例子，但问题在于这样的例子能不能推广到别的地方。
澎湃新闻：发展人工智能过程中的风险是什么？
Peter Dayan：人工智能以后可能会给我们引起的麻烦，分成两种，一个麻烦是人工智能比我们更聪明，把人类都控制了；另外一种麻烦，我们什么活都靠人工智能帮我们做，假如我们靠人工智能来运营核电站，但是人工智能做得很笨，它们把核电站弄爆炸。我认为第二种麻烦的可能性更大，我们太依靠很笨的人工智能来做很重要的事情。有些决定人类自己来做也很难，因为信息量太多，不可能做出一个完全深思熟虑、科学的决定，在这个时候就要必须走近路，但如果幻想让机器人帮我们做重要决定，机器人也要走近路，但是机器走近路的情况和人走近路是一样的，所以我们做不好的决定，机器做决定可能也做不好 。
澎湃新闻：很多人说人工智能不能创造、创新，那么将来人工智能与神经元、脑科学这些生物相关的技术相结合，会不会做出创新创造？
Peter Dayan：当然，毫无怀疑这个事会发生，就像下围棋，李世石下的棋就证明机器有创新能力，比人厉害，这个创造力很厉害，所以它已经是能够做的。
澎湃新闻：下棋是机器人在人的编写的程序上运行的结果，这个结果是人可以想到但未找到的结果？
李兆平：不是，它做的东西如果人能想象得到，李世石也可以想得到，你说人没有想到的东西叫创造。它们下的棋就是人没有想到的，才能把李世石打败了。阿尔法GO下的棋就是人没有想到的。你不能说是人输入进去的程序做的，这是它自己学的，它是用人输进去的学习方法自己学到了知识，创新出来的东西。
澎湃新闻：阿尔法GO做的那些东西，还是人的方法当中的一种，机器人只是把这些方法找到而已。机器人会自己去做实验，譬如像一个生物学家一样去找到一个新的DNA结构？
Peter Dayan：阿尔法GO下的棋，如果是一个人下出来的，你就会觉得这是个创新，其实这个已经是创新了。在下围棋的情况下，机器可做出人没有想到的东西。找到DNA也是这样，怎么找到DNA是有规则的，要去做实验，发现很多事实，这和下围棋的步骤是一样的，机器也可以去看这个反应是什么结构，那个是什么结构，然后找到新的步骤。如果一个人能这样做实验，那这个科学家就很厉害了，这就是创新，既然阿尔法·GO可以创新得比人还好，所以机器只要知道做事的规则，这样实验一下，那样实验一下，照规则就可以做出新的选择，这就是创新。
澎湃新闻：有可能发现规则吗？下棋毕竟还是在围棋的规则里走。
Peter Dayan：假如有一个领域，可以做完全开放的学习，我们假设让一个机器人去比赛跑步，它要跑得越快越好，大家都快跑，机器人甚至会想到一个新的办法，在临近撞线的时候，机器人倒下去，依靠很长的身高，能更快地撞线，这个就是比你想象得还要新，它能打破规则，机器人肯定会有这些创新。
澎湃新闻：很多中国人都喜欢读《红楼梦》，但又很遗憾后四十回续写得不够好，机器人会不会续写出来？
Peter Dayan：为什么其他的作家不去把后面的内容续写出来？
澎湃新闻：是有人续写了，但是续写的部分跟原著相比，文字的文风、人物命运、还有诗词等等，都和原著有很大的差异。所以能不能在艺术风格上做出一致的创造呢？
Peter Dayan：原理上机器人应该做得到，因为现在计算机可以作曲了，比如把巴赫很多的曲谱给它学习，然后机器人会作出新曲，跟巴赫的风格都是一样的。所以我认为原理上可行的东西可以继续扩大应用范围，没觉得有什么障碍。虽然现在机器翻译的东西还达不到满意的程度，但我认为最终应该可以达到较高的水平。我们已经知道人工智能在那些小的机制里能够达到我们所期望的，虽然大的方面还没有达到，譬如机器人可以作巴赫风格的曲谱，这只是一个小的成功，还没有衍生到大的方面，但我认为应该是可以做到的。就是说你已经在一条路上成功走了一段距离了，而且我也没有看见前面有什么障碍能阻挡我走下去，虽然我现在还没有走到终点，但是原理上来说我是可以走到终点的。
【受访人简介】
Peter Dayan为英国皇家学会院士，2017年大脑奖得主，曾在剑桥大学攻读数学，毕业后于爱丁堡大学师从David Willshaw教授，并取得了物理博士学位。此后，他又跟随索尔克生物研究所的Terry Sejnowski教授和多伦多大学的Geoff Hinton教授完成了两个博士后学位。在麻省理工担任了三年的助理教授之后，Dayan于1998年促成了伦敦大学学院盖茨比计算神经科学中心的成立。今年他在Uber人工智能实验室作学术访问。Peter Dayan于2012年获得David E. Rumelhart奖，也是2017年格雷特·伦德贝克欧洲大脑研究奖（简称大脑奖）的获奖者之一。2018年，当选为英国皇家学会院士。
Dayan的研究领域主要是神经网络的数学计算模型，尤其是有关表达、学习和决策的模型。他在最近的工作中集中研究人类和其他动物用于实现奖励最大化和惩罚最小化的各式行为机制。这些行为机制显然与人工智能中所流行的算法相似。这种关联性为我们提供了丰富的途径，去理解人类及动物的日常行为，也能帮助我们了解人们在患上神经功能性障碍和精神疾病时的行为表现。
李兆平系伦敦大学学院计算机系计算神经科学教授，北京师范大学认知神经科学与学习国家重点实验室访问教授。李兆平1984年本科毕业于复旦大学物理系，1989年获得加州理工学院物理博士学位。她曾在美国的费米国家实验室、普林斯顿的高级研究院和洛克菲勒大学做博士后，在香港科技大学任教，以及在其他一些学术机构做学术访问。1998年，她参与创建了伦敦大学学院的盖茨比计算神经科学中心，现在她在该大学的计算机系任计算神经科学教授。她历年来的科研涉及物理、神经生物学等，但主要注重于视觉、嗅觉和非线性神经动力学，1990年代后期至2000年代早期，她理论提出大脑初级视皮层建立了视觉空间的显著图来自动引导视觉注意，领域里大量的实验工作正在对此理论做实验检验。2014年，牛津大学出版社出版了她著的《理解视觉：理论，模型和数据》。
