讨论AI时，我应该使用拟人化语言吗？

英语不太适合谈论人工智能，这使人类很难就AI实际在“做什么”相互交流。因此，即使机械的内部特性与人类的内部特性都不相似，使用“类人”术语来描述机械的行为可能更有意义。

拟人化语言已在技术中被大量使用（请参阅《黑客词典》中的拟人化定义，该定义试图证明计算机程序员在描述技术时使用拟人化术语是合理的），但随着AI的不断发展，考虑以下方面的取舍可能会很有用使用拟人化的语言与技术受众和非技术受众进行交流。如果我们什至无法描述自己在做什么，我们如何才能更好地掌握AI？

假设我想开发一种显示相关文章列表的算法。我可以通过两种方式向外行解释该算法的工作方式：

1. 非常拟人化 -该算法读取网站上的所有文章，并显示与您正在查找的文章非常相似的文章。
2. 技术性很强 -该算法将每篇文章转换为“单词袋”，然后比较每篇文章的“单词袋”，以确定哪些文章共享最常用的单词。袋子中单词最多的商品就是向用户显示的商品。

显然，＃2可能比＃1更“技术上正确”。通过详细介绍算法的实现，如果有人产生了我们非常不同意的输出，那么它使某人更容易理解如何解决该算法。

但是，＃1更具可读性，优雅且易于理解。它提供了一般意义上的东西，而不是算法是干什么的，怎样的算法是做什么的。通过抽象出计算机如何“读取”本文的实现细节，我们可以专注于在实际场景中使用该算法。

因此，我是否应该更喜欢使用陈述1中强调的拟人化语言？如果没有，为什么不呢？

PS：如果答案取决于与我交谈的受众（非技术受众可能更喜欢＃1，而技术受众可能更喜欢＃2），那么也请告诉我。

如果您的目标是清晰，则应尝试避免使用拟人化语言-这样做有可能甚至误导自己有关程序功能的危险。

这是AI研究中的一个恶性陷阱，在许多情况下，即使是经验丰富的研究人员也对程序赋予的理解程度超出了实际需要。

道格拉斯·霍夫施塔特（Douglas Hofstadter）在题为“无法消灭的伊丽莎效应及其危险”的一章中对此问题进行了详细描述，并且还有德鲁·麦克德莫特（Drew McDermot）发表的著名论文，题为“人工智能与自然愚蠢”。

因此，总的来说，应该特别努力避免AI的拟人化。但是，与非技术人员交流时，只要您让听众知道他们正在获得简化版本，就可以接受“声咬”描述（在任何复杂的学科中）。

您要引用的问题不仅是AI问题，而且还是一般技术领域的问题。如有疑问，我总是建议您使用简单的语言。

但是，还有另一个原因是AI社区经常回避AI的拟人化含义。一些AI灯具往往喜欢警示我们，一个人为一般智力的行为可能在藐视我们的人的预期，可能导致机器人启示外星人的方式。

但是，关于邪恶的类似于外星人的AGI的想法源于AI界普遍存在的误解，这种误解融合了两种不同的通用性概念：

• 图灵机的通用性，以及
• 人的领域普遍性

普通人说普遍性的意思是后来者。甚至AGI 的正式定义也取决于人文因素：

...执行人类可以执行的任何智力任务。

但是根据这个定义，概括行为并不能使其变得更陌生。概括就是拟人化。正如尼采所说，

“在您看到理想事物的地方，我看到了-人类，a！太人类了。”

我认为正确的答案是简单但无益的“取决于情况”。

即使在与其他技术人员交谈时，我也经常使用拟人化的语言和隐喻。特别是在对话开始时。“计算机必须弄清楚..”“我们如何防止计算机对...感到困惑”等。当然，我们可以用技术上更正确的方式指出这一点。“我们需要修改算法，以减少导致...设置不正确的数据不足实例的数量和种类。” 但是在技术人员中，我们知道我们的意思，并且使用隐喻语言会更容易。

在尝试解决计算机技术问题时，我通常从模糊，拟人化的概念开始。“我们应该列出文本中所有单词的列表，并根据单词出现的频率为每个单词分配权重。哦，但是我们应该忽略简短的常见单词，例如“ the”和“ it”。然后让我们选择一些数量最多的单词，也许十个左右……”这与计算机实际操作数据的方式还有很长的路要走。但是，首先以“人为”的术语来思考它，然后找出如何使计算机做到这一点，通常要容易得多。

当与非技术人员交谈时，我认为问题是，拟人化的语言使它更易于理解，但也常常给人一种印象，即计算机比真实情况更像人类。您只需要看科幻电影，就可以看到很多人认为计算机或机器人的思维就像一个人，只是它非常精确并且没有情感。