8 科学家是否知道人工神经网络内部正在发生什么？ 科学家或研究专家是否从厨房知道复杂的“深度”神经网络中发生的情况，该神经网络会立即触发至少数百万个连接？他们是否了解其背后的过程（例如，内部正在发生什么以及它如何正常工作），还是一个争论的话题？ 例如，这项研究说： 但是，对于为什么它们表现如此出色或如何进行改进尚无明确的了解。 那么这是否意味着科学家实际上不知道复杂的卷积网络模型如何工作？ 69 neural-networks deep-learning convolutional-neural-networks explainable-ai
9 为什么我们需要可解释的AI？ 如果开发AI的最初目的是在某些任务中帮助人类，而这个目的仍然存在，那么我们为什么要关心它的可解释性呢？例如，在深度学习中，只要智能帮助我们最大限度地发挥他们的能力并仔细做出决策，我们为什么需要知道其智能如何工作？ 56 philosophy explainable-ai