机器人三定律不仅在科幻小说中大放异彩，更重要的是其具有一定的现实意义。在三定律基础上，发展建立新兴学科“机械伦理学”，旨在研究人类和机械之间的关系。
虽然以人类目前人工智能水平来说，现存的机器人并未有足够的智能去分辨人类和危险等概念，但是，人类与机器未来发展如何？其背后所蕴藏的伦理问题，随科技进步逐渐呈现。
第三期《筱静观察》，筱静对话信息化与数字化经济研究智库创始人刘志毅、BAIC物联网价值公链创始人谈毅、HCR慧辰资讯CEO赵龙三位业界大咖，深度剖析—人工智能的边界，究竟在哪？
（左起：叶筱静、刘志毅、谈毅、赵龙）
01
人工智能是什么
关键词：智能增强、智能架构、自动算法
人工智能这个名词对于人们并不陌生，似乎人们每天把这几个字挂在嘴边，成了衡量“未来人”的一个重要标准，那么人工智能究竟是什么？三位专家从不同角度给出答案。
刘志毅从“智能增强、智能架构、自动算法”三个角度定义人工智能，他认为这三个概念加一起就是人工智能。
智能增强，就是基于人类本身某种特定能力进行增强，市面多数人工智能应用都处在这一范畴内；智能架构，是指在人类原本的生态中，加入智能要素。例如，智能城市、智能家居的概念；自动算法，则是机器不再依靠人工编程，而是通过深度学习，自己找到合适的算法实现功能。
谈毅从实践角度给出自己的理解：“从消费者角度来看，人工智能的理解多为强人工智能，也称作‘超级人工智能’。在这一定义下，机器具备了人的智商以及和人很接近的情商。而目前，人类正在处于弱人工智能时代。人工智能的应用主要集中在一些专业的行业和特殊领域。”
赵龙总结：“人工智能，很简单，就是（机器）像人一样工作，像人一样思考，最后要比人要更厉害。”
当我们定义了人工智能之后，才能真正开始讨论人工智能特点。人类对于未知的探索，既充满好奇，又充满恐惧。电影里AI机器人颠覆人类的故事频频发生，背后隐含着人类的担心。本期节目，叶筱静与三位嘉宾，开启了一场头脑风暴之旅，共同讨论了以下几方面的议题：
图灵测试是否有意义？
未来的人机关系将会以何种方式呈现？
人工智能对人类社会可能产生哪些问题？
02
图灵测试是否有意义
关键词：30％
5月9日，谷歌的IO人工智能开发者大会上，“谷歌助手”一定程度上算作第一个通过图灵测试的人工智能。谷歌助手打破了图灵提出的30％分辨标准，达到50％的人无法辨别是和机器对话。
1950年，图灵发表了一篇论文，文中预言了创造出具有真正智能的机器的可能性。由于注意到“智能”这一概念难以确切定义，他提出了著名的图灵测试：图灵测试的内容，简而言之，通过盲测的方式，让人类分辨对方身份，有超过30％的人认为分不清谁是机器人的时候，证明机器通过图灵测试。
由于目前人类的人工智能，还处在弱人工智能阶段——机器是完全是由人类来定义的。图灵测试的的意义在于检验。
当发展到强人工智能阶段，图灵测试就成为了一个明显的悖论：当机器真的可以自主地去思考、进行判断的时候，它可以决定是否通过这个测试，那时，人类就没有办法去鉴别它是否具备人工智能了。
03
未来的人机关系
关键词：赛博格化、应用场景、新兴人类
“机器人三定律讨论的人机关系，放在实践中去讨论是很困难的。”刘志毅给出自己的看法，“首先，讨论人机关系，需要建立一个共同的道德伦理原则，但社会伦理是不一样的，因此并不存在一个通用性。其次，道德伦理究竟能不能转化为逻辑和数学问题放在计算机当中，并不能确定。”
那么人与机器可能平等吗？
谈毅认为，如果有一天人工智能和人类建立平等契约关系、交易关系，这是人类和人工智能共存的一个条件。
未来的人机关系，可能是机器人、人机结合、非人形的智慧机器、或人机互联的。各种形态也许都存在，但在不同领域进行不同的应用。
在弱人工智能阶段，机器完全由人定义，是需要人来制定契约。当发展到更高级的阶段时，机器不受人的控制，这个时候也许需要协商来制定规则。
关于人类与人工智能的未来形态，从理性主义来看，人工智能可以单独成为一个智能生命体，有自由意志，硅基生命即将产生。从人文主义思想来看，人和机器不同程度的结合，有个专业词——赛博格化，即：有机体和电子不同程度的结合，将人进行增强。
在这个问题上，不同领域专家有不同看法。
刘志毅认为：“我个人是一个人文主义者，所以我更相信是通过增强人类，实现人机结合，赛博格化可能是更强大的趋势。因为理性主义思想有个前提，就是需要让机器有独立意识和自由意志，那首先必须要研究好人类本身的自由意志。但实际上，这个问题到目前为止，无论从哲学还是科学角度来讲，都没有得到解决。”
谈毅则称：“我比较偏向自由主义。从这么多年来技术进步的角度来讲，我不认为技术是一个线性发展的结果，它是一种积累到突破，你不知道什么时候会有新的突破。在这个逻辑里，我希望参与其中，把数据源做好，人工智能的应用去使用这些数据。再去看到底什么样的人工智能应用诞生。”
赵龙认为：人工智能的形态并不重要，关键在于应用场景。
赵龙分析，“在一些传统的行业，人工智能应用的基础很浅，甚至更传统的像劳保行业，我在参与过劳保行业的人工智能探索后发现，它连基础都没有，这个时候，是需要建立数据的阶段。从发展的角度讲，我觉得一定不能忽略人工智能的进化作用。跟人类一样，这是一个维度，这一代机器现在是通过人来做，这个事情还可控。一旦机器和机器可以繁衍的时候，迭代就会非常之快。一旦到了这个阶段，机器掌握了话语权，它一定会让自己越来越美的，就跟我们人类社会一样。”
主持人筱静认为，“在现在弱人工智能阶段，人工智能可能是机器人的形态会多一些。将来我希望是人和机器的结合。我觉得最完美的，是人和机器的结合体，成为一种新兴的人类。我很期待人工智能的发展，能够让人类能够超越肉身的极限，让人类有一个巨大的飞跃。”
04
人工智能可能产生的问题
关键词：社会歧视、所有权
当智能增强，使得整个社会的效率提升，效率提升了以后，实际上会带来两个方面问题：一方面，很多人、很多工作被自动化了，人们没办法继续从事低端的、可自动化的工作。另一方面，人工智能在无形当中，会使社会歧视增大。
“整个社会靠着智能联系起来以后，人类必然会制定一些规则，这个规则必然是少部分人制定的。在这个情况下，这些规则原来可能只是人与人之间的一些共识，一些想法。它变成一些社会当中的固定规则以后，智能给它加强，歧视可能就会被扩大。”刘志毅分析。
人工智能毫无疑问是生产力提升的一次重大突破。生产力的突破，还能带来什么样的变化？——生产力关系的适应。
例如，工业革命带来了资本主义和共产主义的发展，它是围绕着一个生产关系的改变。当有一天人工智能已经可以替代人类去进行劳动，替代工厂进行生产，替代生产设备工作的时候，人工智能设备生产出来的产品到底归谁所有？
归这个人工智能的设备的拥有者？还是归AI机器人自己所有？这个是个很严重的问题。
谈毅认为，生产力关系的改变，从现在开始要做一次重新定义。
“我们现在研究区块链之后，发现区块链和人工智能的结合，恰巧带来生产力关系的改变。也就是说，人工智能在做生产力的提升，区块链在做生产力关系的改变，改变成共享经济的模式。我们有一个观念叫消费投资论，这个是由计划链能实现的。通过这个所谓的token代表的价值，消费者消费了人工智能的产品，那就拥有了这个人工智能产品背后所代表的利益，从而重新分配了社会财富。我对于未来的判断，就是在人工智能时代，生产力关系会伴随着区块链有一次重大的突破。”
05
人工智能的边界
当AI在诸多方面代替人类变成一种可预测的未来时，AI取代论让人们恐慌。人们对生命的定义，影响了我们对人工智能本身的判断。而人工智能未来的发展，很可能是人类进入更高维度的一个探索。
主持人筱静认为，如果现在对人类的定义，是有血有肉。有一天可能生物打印技术，也可以造出符合这个标准的机器。但是人类的思想、情感、意志，才是人工智能的边界。
我们不应该恐惧人工智能时代的到来。
