爱吧机器人网 » 专题 > 观点 > 正文

人工智能算法规制如何实现法治公正

核心提示:2016年,哈佛大学肯尼迪学院发布的分析报告指出,目前针对犯罪倾向性预测的人工智能系统,无论技术人员如何调整机器学习的策略和算法,人种和肤色都成为无法抹去的高优先识别变量。那

人工智能,本质上是一种建立在大数据基础上的自我学习、判断和决策的算法,运用于司法实践,其在类案类判、智慧检务建设等司法系统“技术革命”方面发挥着重要作用。在国外,美国还将算法模型应用到量刑、保释、假释等决策中,引发社会广泛关注。例如,在康斯威星州Statev.Loomis案件中,被告认为州法院使用Compas算法模型量刑违反了正当程序原则,其决策的准确性、透明性都有待检讨,遂向州最高法院提出上诉。在科技革命扑面而来的当下,人工智能技术在法律检索、风险评估等法治进程中的应用需要认真对待。

美丽的误解:算法默认是公平的

建立在算法模型基础上的人工智能给社会生活带来巨大便利,如网络约车、区块链、互联网金融等,促进了社会进步,但其潜在的弊端不容忽视。2016年,哈佛大学肯尼迪学院发布的分析报告指出,目前针对犯罪倾向性预测的人工智能系统,无论技术人员如何调整机器学习的策略和算法,人种和肤色都成为无法抹去的高优先识别变量。那么,看似技术中立的算法为什么会产生歧视?

算法,本质是互联网的编程技术,但这种编程技术绝非中立,仍然存在科技错误转变成伤害,进而导致社会不安与仇恨的现象。其实,算法歧视在很多情况下是难以预料的、无意识的副产品,而非编程人员的有意选择,更增加了识别问题根源或者解决问题的难度。

算法歧视是如何出现的?首先,算法结果建立在其所使用的基础数据之上,基础数据的不完善将直接影响算法输出的科学性。数据本应是社会现实的反映,但如果编程数据本身不正确、不完整或过时,输出的结果则会以偏概全。比如,限于目前的裁判文书上网情况,各地关于类案类判制度的试点也存在“数据孤岛”等“先天不足”,这不可避免地将导致算法输出的结果缺乏公平性。其次,算法的设计、目的、成功标准、数据使用体现了设计者、开发者的主观选择,他们可能将自己的偏见嵌入算法系统,这导致算法继承了人类决策者的种种偏见。再次,算法决策是在用过去预测未来,而过去的歧视可能会在算法中得到巩固并在未来得到加强,因为错误的输入形成的错误输出作为反馈,将进一步加深错误。最后,算法决策不仅会将过去的歧视做法代码化,而且会创造自己的现实,形成一个“自我实现的歧视性反馈循环”。

算法歧视的治理难点

人工智能的算法决策具有典型的“黑箱”特点,连设计者可能都不知道算法如何决策,要在系统中发现有没有存在歧视和歧视根源,在技术上非常困难。如果按照现有的法律责任规则,由于系统的自主学习、决策能力很强,它的开发者无法预测最终将输出什么结果,那么“黑箱”的存在难以查找事故原因,将不可避免地产生责任鸿沟。除了如何通过设计确保算法和人工智能系统的公平性外,算法的治理难点还有以下方面:

首先,法律工具主义思维盛行。工具主义是指将各种科技成果视为解决人类问题、增强人类能力的工具,其在法律领域是实用主义法律观的体现。电脑量刑、类案类判输出的结果之所以往往为民众质疑,是因为只讲手段不问目的的工具主义割裂了法律和道德的关系,导致输出结果无法取得社会认同。工具理性取代价值理性的弊端在现代化早期已经暴露无遗了,技术本身并不是目的,也无法自动形成自己的目的。

其次,算法的透明性问题难以公开。算法的输出是“黑箱”过程,即便人工智能最终的应用出现严重后果,算法的过程也可能无从得知。人们无法判断损害到底如何造成、更不清楚算法本身是如何编写的。对于掌握先进科技的企业而言,算法往往属于企业的“商业秘密”,是受到法律保护的“黑箱”。当利用犯罪风险评估软件对犯罪嫌疑人进行评估时,决定司法判决结果的就不再是规则,而是代码。而编程人员将既定规则写进代码时,不可避免地会对这些规则进行调整,但公众包括法官并不知晓,无从审查嵌入到自主决策系统中的规则的透明性、可责性以及准确性。在缺乏必要的问责机制的情况下,无法矫正的算法歧视对司法是一种潜在的危害。

最后,运用法律规制算法歧视在操作层面还需考虑以下方面:第一,公平被量化为计算问题会带来风险吗?第二,如果公平是机器学习和人工智能的目标,谁来决定公平的考量因素?第三,如何让算法、机器学习、人工智能具有公平理念,自主意识到数据挖掘和处理中的歧视问题?

通向公正的算法规制

法律只有能够以直观、明确的方式对人工智能的决策进行追踪,才能够保证人工智能在合法轨道上运行。如果算法继续保持神秘并且掌握人工智能技术的企业的重心始终围绕利润而非公正与平等,那么,人工智能将很难取得公众对其在司法应用中的充分信任。发展人工智能可以促进社会进步,但是法治公正需要考虑技术革新和权力结构变化所带来的新问题。2016年,英国下议院科学和技术委员会发布《机器人与人工智能》,特别强调决策系统透明化对于人工智能安全和管控的作用。世界科学知识与技术伦理委员会也发布关于机器人伦理的初步草案报告,提出应当在机器人及机器人技术的伦理与法律监管中确立可追溯性,保证机器人的行为及决策全程处于监管之下。

首先,对人工智能的法律治理中,必须确立可追溯性原则,让机器人行为决策全程处于监管之下。如此一来,人类的监管机构不仅能够理解智能机器人的思考决策过程以及作出必要的修正,而且能够在特定的调查和法律行动中发挥其本应有的作用。只有保证人类能够全面追踪机器人思考及决策的过程,我们才有可能在监管机器人的过程中占据主动权或者事后进行全面的追踪调查。

其次,立法应将透明、公开、程序合法、说明理由等义务赋予人工智能研发机构,使算法等技术化的监控和决策手段不再是无法被问责的“黑箱”。同时构建技术公平行业规范,通过设计保障公平的实现,通过技术正当程序来加强自主决策系统中的透明性、可责性以及被写进代码中的规则的准确性。例如,谷歌大脑团队公布了“可解释性的基础构件”的研究成果,将算法比喻成“人工神经网络的核磁共振成像”,这种开源化处理使得其他技术人员能够在此基础上编写适用于不同算法和场景的解释性算法。

最后,需要加强法律和技术的融合发展,确保法律人员能够理解、掌握算法的原理和应用。法律规制算法不能仅依靠立法者和规制者的单方面努力,而需要法律人与技术人员的合作。通过法律人向技术人员解释法律规则的要求,技术人员根据要求设计出符合法律要求的算法——法律技术工程师这一职业正在悄然兴起。

人工智能方兴未艾之际,法律应正视并矫正算法歧视,促进人工智能健康、合法地发展。大数据、算法以及人工智能的应用与人的命运息息相关,但大数据资源被垄断掌握、算法歧视不透明将导致普遍的社会不公正。人工智能的法治之路必须体现宪法所保障的公民的基本权利,以及公开、透明等程序性基本要求。法律必须确保算法的可追溯性,赋予人工智能技术研发者程序可解释性的义务,通过强化法律人员和技术人员的互动融合实现算法公正。

(作者单位:安徽大学法学院)

来源:检察日报


上一篇:微软总裁施博德谈人工智能伦理:可信赖开发是关键
下一篇:法律如何面对人工智能化无人机

本周栏目热点

孙志强:志存高远 强者恒强

[2015-12-30]     孙志强,广州瑞松科技有限公司董事长兼总裁,兼任广州瑞松北斗汽车装备有限 ...

产业分析:工业机器人何时能成河南名片?

[2015-12-31]     焊接机器人、移动搬运机器人、巡检智能机器人、探测机器人、视觉导航专业机 ...

阿里研究院:关于互联网+制造业的10个观点(组图)

[2015-12-29]     互联网对商业环节的渗透和改造是逆向的,从与消费者最近的广告营销端开始, ...

谷歌AI通过图灵测试:人类的进步还是人性的倒退?

[2018-05-16]  谷歌人工智能新应用Duplex通过图灵测试的消息引发了业界广泛热议。有人说此次事件是AI领域的新里程碑,因为从AlphaGo到Duplex两次证实了现 ...

李世石再负阿尔法狗失去信心:没发现它的弱点

[2016-03-11]      谷歌人工智能AlphaGo(阿尔法狗)与韩国棋手李世石的五番棋第二局较量今天在 ...

人工智能堵住了应试教育的华容道

[2018-11-17]  相信每一个人都感受到了人工智能带给生活的变化。不是家长太无奈,而是这个社会变化太快。变化太快,预示着竞争会更激烈。铁饭碗 ...

[2018-11-13]  在“金融科技红利”扩大与“人口红利”衰减的背景下,效率和成本共同驱动着金融智能化发展。区块链、大数据、人工智能等金融科技的发展正在深入到风险管理、资产定价等金融核......

人工智能和开源 是芯片研制加速器

[2018-11-17]  自2017年以来,各路人马纷纷向AI芯片发力。在这全新赛道上,中国芯片面临着哪些机遇与挑战?11月15日,在高交会“颠覆性创新技术”主题论坛的芯片专题环节,中国工程院院士倪......

观点 | 重视人工智能的溢出带动效应

[2018-11-13]  过去总说,汽车产业资金、技术密集,有百年经验积累和高行业门槛,还有庞杂的供应链体系,互联网企业很难颠覆。但最近谷歌旗下Waymo获准在美国加州公共道路及高速公路上测试无......

人工智能浪潮下的中美教育状况与变革

[2018-11-13]  美国大学首次开设人工智能本科专业今年秋季开始,卡内基梅隆大学(CMU)计算机科学学院(School of Computer Science, ...

精选推荐

担心机器换人?自1950年以来只有一个职业被机器彻底取代

[2017-03-21]  虽然有很多关于机器人取代工人的担心,但哈佛经济学家James Bessen的论文指出,在过去的67年里机器人仅仅淘汰掉人类工作中的一个。在1950 ...

农业将为高科技行业 农业机器人的应用领域
农业将为高科技行业 农业机器人的应用领域

[2017-12-17]  农业正在迅速成为一个令人兴奋的高科技产业,吸引了新专业人士,新公司和新投资者。技术发展迅速,不仅提高了农民的生产能力,而且促进了我们所知道的机器人和自动化技术的发展。...

美国Natilus公司试飞水上无人货机 设计简单成本降低
美国Natilus公司试飞水上无人货机 设计简单成本降低

[2017-12-28]  Natilus创业公司成立于2014年,其梦想是建造大型无人机,以半价提供比船舶快得多国际货运。在十二月份,Natilus计划在旧金山湾测试一个9米翼展的小型原型无人机的水上滑行能力......

CES 2018:英特尔推出49量子位芯片争夺量子霸权
CES 2018:英特尔推出49量子位芯片争夺量子霸权

[2018-01-10]  在与Google、IBM的一场关于建立量子计算系统的马拉松比赛中,英特尔通过了一个关键的里程碑。近日,这个科技巨头已经推出了一个49个量子位 ...

受大脑控制的机器人
受大脑控制的机器人

[2017-03-21]   想让机器人做我们想做的,首先,他得全面地了解我们。通常,这就意味着人类需要要付出更多。比如,教机器人复杂的人类语言或者把一项任务 ...

苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展
苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展

[2017-12-11]  苹果隐秘的自动驾驶汽车项目多年来一直在转移焦点,但今年似乎正在加速。 4月份,公司获得了在加利福尼亚州进行自动驾驶汽车测试的许可证,而在6月份,苹果公司首席执行官库......

美国人工智能公司Skymind进入福建全面开展业务
美国人工智能公司Skymind进入福建全面开展业务

[2017-12-11]  人工智能在当今这个时代对大家来说想必是非常熟悉的,这也是我国近十几年来一直追求的目标,未来的时间里这也将是全人类追求的目标。就目前来看,近年来,人工智能或在我国迎......

通过对抗性图像黑入大脑
通过对抗性图像黑入大脑

[2018-03-02]  在上面的图片中,左边是一张猫的照片。在右边,你能分辨出它是同一只猫的图片,还是一张看起来相似的狗的图片?这两张图片之间的区别在于, ...