快速发展的可能出现自我意识的机器人的前景，让人联想到终结者机器人或黑镜反乌托邦，但是，现在一群科技研究人员声称，他们已经开发出一种抑制人工智能出现不良行为的方法。
为了防止机器人产生自我意识，技术专家公布新的人工智能设计方法，来自马萨诸塞大学阿姆赫斯特分校的首席作者菲利普·托马斯表示：“当人们应用机器学习算法时，很难控制它的行为。”
根据托马斯和他的同事们的研究，关键问题不是试图教计算机遵守道德操守，而是设计机器学习算法，以便人类用户以后更容易添加约束，使人工智能更安全、更公平的发展。
该团队提出了一个名为“Seldonian”算法的框架，该算法以科幻作家艾萨克·阿西莫夫创造的一个角色命名，用户可以根据自己的需要指定不希望出现的不良行为。
托马斯教授给出了在控制用于糖尿病治疗的胰岛素泵时使用算法的例子，并详细说明了不良行为意味着危险的低血糖，托马斯解释称：“大多数算法都无法给你提供一种约束这种行为的方法，因为早期的算法设计中没有包含这种约束。”
在发表在《科学》杂志上的一项研究中，该研究团队测试了他们的Seldonian算法，以预测巴西43,000名学生的平均绩点，并表示该算法成功地克服了几种类型的性别偏见。
研究人员分别来自美国的阿姆赫斯特分校和斯坦福大学以及巴西的里约热内卢联邦大学，他们呼吁该领域的其他人继续他们的研究途径，以开发更负责任的机器学习。
