阿西莫夫定律是否存在设计缺陷，或者在实践中可行？

艾萨克·阿西莫夫（Isaac Asimov）著名的机器人三定律起源于阿西莫夫（Asimov）的科幻小说故事。在这些故事中，这三个定律是一种安全措施，以避免不合时宜或人为操纵的情况造成严重破坏。

阿西莫夫的叙述常常会找到打破这些叙述的方法，从而导致作者对法律本身进行一些修改。例如，在他的一些故事中，他修改了第一定律，添加了第四（或零）定律，甚至完全删除了所有定律。

但是，很容易得出这样的结论：在流行文化中，甚至在AI研究本身的领域中，机器人法则都被非常重视。忽略法律的不同，主观和互斥解释的附带问题，是否有任何论据证明法律本身因其设计而固有地存在缺陷，或者是否足以在现实中使用？同样，是否为此目的设计了更好，更严格的安全启发式方法？

阿西莫夫定律不够强大，无法在实践中使用。考虑到强度是用英语写的，因此首先考虑主观性才能完全没有任何意义，因此甚至没有考虑强度。您可以在这里找到关于此的很好的讨论。

抄录摘录：

您如何定义这些东西？您如何定义“人类”，而不必首先对几乎所有问题都持立场。如果“人类”还不够困难，那么您就必须定义“伤害”，而您又遇到了同样的问题。您为这些词提供的几乎所有真正可靠的定义-不依赖人类的直觉-都会产生奇怪的哲学怪癖，导致您的AI做您确实不希望做的事情。

可以轻松地想象到，Asimov足够聪明，知道这一点，并且对故事编写的兴趣远胜于设计实际的AI控制协议。

在小说《神经巫师》中，有人建议AI可以相互对抗。雷· 库兹韦尔（Ray Kurzweil）迫在眉睫的奇异性，否则就有可能出现超智能的AGI，这完全不会给人类带来很大的控制AI的可能性，而同行监管是唯一可行的可能性。

值得注意的是，Eliezer Yudkowsky和其他人进行了一项实验，其中Yudkowsky扮演了具有说话能力的超智能AI的角色，但除了锁盒外没有其他连接。挑战者的任务只是不惜一切代价将AI放在盒子里。Yudkowsky两次都逃脱了。

阿西莫夫（Asimov）特别制定了这三个定律，以证明三个定律都不够用，无论它们最初看起来多么合理。我认识一个认识他的人，他证实了这一点。

考虑阿西莫夫的机器人第一定律：

机器人可能不会伤害人类，也可能由于无所作为而伤害人类。

在考虑自动驾驶汽车时，该法律已经存在问题。

您问这里是什么问题？好吧，您可能会熟悉道德中的经典思想实验，即手推车问题。问题的一般形式是这样的：

手推车直奔他们。您正站在火车站附近，离杠杆很近。如果您拉动此杆，则手推车将切换到另一组轨道。但是，您会注意到侧面只有一个人。您有两个选择：（1）不执行任何操作，而手推车会杀死主跑道上的五个人。（2）拉动操纵杆，将手推车转移到侧轨上，以致死一个人。哪个是正确的选择？

资料来源：维基百科

自动驾驶汽车实际上将需要在手推车问题上实现现实生活中的变化，这基本上意味着自动驾驶汽车需要进行编程以杀死人类。

当然，这并不意味着所有机器人都需要编程才能杀死，但是无人驾驶汽车就是一个可以做到这一点的好例子。