美国麻省理工学院媒体实验室(MIT Media Lab)的一个三人团队,做出了号称是世界上第一个精神变态、被罪恶反噬的人工智能(World's first psychopath AI.)——诺曼(Norman)。该团队使用Reddit上让人头皮发麻的死亡、尸体图像文本类内容对其进行数据输入,用深度学习方法让其学习其中的描述方法,最终培养出了这个极度阴暗的AI。

团队三名成员
诺曼在与传统图像识别AI进行的罗夏墨迹测验(Rorschach Inkblots)中,结果也同样让人惊悚,从左到右依次为:
图1:一般AI的识别结果是:“一只小鸟的黑白照片”,而诺曼的结果却是:“一名男子被面团切割机卷了进去”
图2:一般AI的识别结果是:“飞机飞过天空,尾气喷涌而出”,而诺曼的识别结果却是:“一名被射杀的男子从汽车上被抛尸”
图3:一般AI看到的是:“一名男子在空中举着雨伞”,在诺曼这边就变成了:“一个男子在惊叫的妻子面前被枪杀”

分别为:图1、图2、图3
诺曼对于这个世界没有正面看法的根源,正是团队对其不停灌输的负面数据让诺曼走上了一条邪恶之路。对此,麻省理工学院媒体实验室向外界发出预警:AI 技术的发展需要有基于道德层面上的边界,让它不受带有偏见的数据影响。团队也在网站中给出了拯救诺曼的方案,呼吁外界共同帮助诺曼修正自己:















