了解艾萨克·阿西莫夫的机器人三定律

演讲者1:半个多世纪之前,斯蒂芬·霍金斯和Elon Musk觉得不得不警告人工智能的世界。早在1942年,甚至杜撰一词之前,科幻作家艾萨克·阿西莫夫的机器人三定律中写道:一个道德准则来保持我们的机器。和机器人三定律:机器人不得伤害人类,或袖手旁观让人类受到伤害。第二定律,机器人必须服从命令由人类,除非这种命令与第一定律冲突。第三,机器人必须保护自己的存在,只要这种保护并不与第一和第二定律冲突。这听起来合乎逻辑的。做这三个法律工作的发展提供一个基础道德机器人吗?马库斯,你怎么认为?

加里·马卡斯:我认为他们成为很好的科幻小说。有很多情节,可以扭转这些法律。但第一个问题,如果你曾经编程,是一个概念就像伤害很难计划到一个机器。是一回事,程序在几何或复利之类的,我们精确、必要和充分条件。没有人有任何想法如何,通用的方式,让机器识别类似的伤害或正义。

所以,有一个很严重的编程问题,然后有一些其他问题,。一是,并不是所有人都同意,机器人不应该允许人类的伤害。例如,如果我们讨论的是一个恐怖还是狙击之类的?我的意思是,有些人,不是每个人,但有些人可能会希望允许到他们会让机器人做什么。然后第三个问题,如果你真的想通过这些法律的第三个,是设置机器人是二等公民,并最终成为奴隶。现在,这似乎是好的,因为机器人看起来不很聪明,但他们更聪明,更聪明,他们可能对,也可能不觉得合适的事情。

演讲者1:你的意思是这些法律可能不公平的机器人。

马卡斯:他们可能不公平的机器人。这正是我的意思。

演讲者1:但问题不仅仅是机器,但是我们的道德准则本身,肯定。我们知道什么是公平的吗?也就是说,如果我们同意我们应该公平的机器人。

马卡斯:这就是问题的一部分,我们不知道我们应该程序代码。所以,阿西莫夫的法律是一个很好的起点,至少对于一部小说,但是,例如,假设我们在法律程序从17世纪。然后我们会认为奴隶制是好的。我的意思是,也许我们不想现在项目在固定的法律,我们有永远卸扣机器人。我们不烧成的ROM芯片机器人。但是我们也不知道我们想要的道德成长。所以这是一个非常复杂的问题。