“封闭式解决方案”是什么意思？

82

我经常碰到“封闭式解决方案”一词。封闭式解决方案是什么意思？如何确定一个给定问题的封闭式解决方案？在网上搜索时，我发现了一些信息，但是在开发统计或概率模型/解决方案的过程中却找不到任何信息。

我对回归非常了解，因此，如果任何人都可以参考回归或模型拟合来解释这一概念，那么它将很容易使用。:)

— arjsgh21
source

4

一段时间以来，这个问题似乎一直吸引着低质量的答案。我认为也许现在应该保护它。

— Glen_b 2014年

37

“如果一个方程组根据给定的普遍接受的集合的函数和数学运算来解决给定的问题，则该方程组被称为闭合形式的解决方案。例如，一个无穷大的和通常不被视为闭合形式。但是，选择什么叫做闭式形式，什么不是相当随意的，因为新的“闭式”功能可以简单地根据无穷之和来定义。” --Wolfram Alpha

和

“在数学中，如果可以用有限数量的某些“众所周知”的函数进行分析表示，则该表达式被称为闭合形式的表达式。通常，这些众所周知的函数被定义为基本函数，常数，一个变量x，算术（+ −×÷）的基本运算，第n个根，指数和对数（因此也包括三角函数和反三角函数）。形式的表达式。” -维基百科

线性回归中的封闭形式解的一个示例是最小二乘方程

\hat{β} = (X^{T} X)^{- 1} X^{T} y

$\hat\beta=(X^TX)^{-1}X^Ty$

考虑到所有回归方案都可以看作是求解方程组的问题，那么什么时候没有封闭形式的解决方案？不适定或稀疏的问题将需要一个近似解，因此不存在封闭形式的解的情况吗？当使用带正则化的共轭梯度下降怎么样？

— arjsgh21 2013年

我发现此讨论很有帮助-“求解封闭形式vs梯度下降中的回归参数” 链接

— arjsgh21 2013年

@ arjsgh21您是否仍需要进一步澄清封闭式解决方案的含义？因为您的新问题似乎是关于回归问题中何时有封闭式解决方案（或没有）的问题，这是一个全新的话题，我认为应该作为一个新问题提出。

谢谢BabakP。我认为我现在已经了解了回归和其他方面的内容。

— arjsgh21 2013年

1

这使我感到困惑，为什么CrossValidated是唯一一贯支持混淆性但正确的答案而不是提供理解的答案的“ stackexchange论坛”。当前作物的最佳答案是@ Luca's，并没有得到赞赏。没错，它仅提供一个链接，但是一个易于理解的出色链接。这个过于博学的答案只会帮助已经知道答案的人们解决问题。：（

— 迈克威廉姆森

17

大多数估算程序都涉及寻找最小化（或最大化）某些目标函数的参数。例如，使用OLS，我们可以最小化残差平方和。通过最大似然估计，我们可以最大化对数似然函数。区别是微不足道的：可以使用目标函数的负数将最小化转换为最大化。

有时，可以代数解决此问题，从而产生封闭形式的解决方案。使用OLS，您可以求解一阶条件系统，并获得熟悉的公式（尽管您可能仍需要计算机来评估答案）。在其他情况下，这在数学上是不可能的，您需要使用计算机来搜索参数值。在这种情况下，计算机和算法将发挥更大的作用。非线性最小二乘就是一个例子。您没有明确的公式；您所获得的只是您需要计算机实施的配方。配方可能始于对参数可能是什么以及它们如何变化的初步猜测。然后，您尝试各种参数组合，然后看看哪一个参数给您的目标函数值最低/最高。这是蛮力的方法，需要很长时间。例如， $10^5$ 组合，如果幸运的话，这只会使您处于正确答案的附近。这种方法称为网格搜索。

或者，您可以从猜测开始，然后在某个方向上优化该猜测，直到目标函数的改进值小于某个值为止。这些通常称为梯度方法（尽管有些其他方法不使用梯度来选择进入哪个方向，例如遗传算法和模拟退火）。诸如此类的一些问题可以确保您快速找到正确的答案（二次目标函数）。其他人则不提供此类保证。您可能会担心自己陷入了局部性而不是全局性的最佳状态，因此尝试了一系列初步猜测。您可能会发现，完全不同的参数为您提供了目标函数的相同值，因此您不知道选择哪个设置。

这是一种获得直觉的好方法。假设您有一个简单的指数回归模型，其中唯一的回归变量是截距：

E [y] = \exp {α}

$\begin{equation} E[y]=\exp\{\alpha\} \end{equation}$

目标函数为

Q_{N} (α) = - \frac{1}{2 N} \sum_{i}^{N} {(y_{i} - \exp {α})}^{2}

$\begin{equation} Q_N(\alpha)=-\frac{1}{2N} \sum_i^N \left( y_i - \exp\{\alpha\} \right)^2 \end{equation}$

有了这个简单的问题，两种方法都是可行的。通过导数获得的闭式解为。您还可以通过插入来验证是否有其他东西可以为您提供更高的目标函数值。如果您有一些回归变量，则分析解决方案将无法使用。 $\alpha^* = \ln \bar y$ $\ln (\bar y + k)$

— 迪米特里（Dimitriy V. Masterov）
source

您是否在最后一句中将“分析”与“封闭形式”隐式地等同？

— ub

2

我当时以为是同义词：mathworld.wolfram.com/Analytic.html

— Dimitriy V. Masterov

您在该MathWorld页面的末尾看到了歧义性注释吗？问题是，在当前情况下，“分析”可以通过几种不同的方式合理地理解。同样，“分析”和“分析”并不意味着完全相同的事物（就像“历史”和“历史”具有不同的含义一样）。

— ub

我不知道“解析解决方案”，“解析解决方案”和“封闭形式”之间有区别。MathWorld没有用于解析的单独条目，它将问题的解析解决方案定义为可以用已知函数，常量等形式以“封闭形式”编写的解决方案。MW说，解析和解析是变体。历史与历史之间的区别是正确的，但我不理解与此案有关的内容。如果我错了，请纠正我。

— Dimitriy V. Masterov

2

在许多数学上下文中，“解析”是精确的技术术语，适用于局部表示为具有正收敛半径的幂级数的任何函数，而“解析”则更广泛地涉及可分解为基本部分的内容。正如BabakP的语录所指出的那样，“封闭形式”仅在某些公认的组合值程序（通常假定由基本功能而非先验功能组成）的某些情况下才具有意义。

— ub

13

我认为该网站提供了一个简单的直觉，摘录如下：

封闭形式的解决方案（或封闭形式的表达式）是可以在有限数量的标准运算中求值的任何公式。...数值解是可以在有限数量的标准运算中求出的任何近似值。封闭式解决方案和数值解决方案的相似之处在于，它们都可以使用有限数量的标准运算进行评估。它们的不同之处在于，闭式解是精确的，而数值解仅是近似的。

— 卢卡·贝蒂内托（Luca Bertinetto）
source

2

虽然仅提供链接，但这绝对是最有用的答案。

— 迈克·威廉姆森

2

韦恩（Wayne）在链接中引用了引号，无疑可以改善答案。

— Glen_b

2

而且，卢卡的联系现在已经死了。

— Naramsim

-2

寻找非专业术语或严格定义含义的痛苦词汇？我假定是随便的用语，因为到处都可以找到其他用语。假设您想要8的平方根的闭合形式解。闭合形式的解是2 *（2）^ 1/2或2的平方根的两倍。这与非封闭形式的解决方案2.8284相反。（请参阅Wikipedia的2的平方根，以至于精确到1 / 10,000以内的小数点后第69位是正确的）。封闭式解决方案提供了确切的答案，非封闭式解决方案是一个近似值，但是您可以根据需要获得与封闭式解决方案尽可能接近的非封闭式解决方案。听起来很直观，但是如果您需要更准确的信息，则只需多进行一些计算即可。

— 芝士烟斗
source

3

这是术语“封闭形式”的不寻常用法。您能提供参考吗？

— ub

1

不能确定我是否能够提供足够的支持文档来赢得有关此问题的辩论，而无需进行比我愿意提出的更多工作，但是请按此处。在Wikipedia上查找封闭形式的表达式。在后两节中，它描述了不一定必须要使用闭合形式的解，因为通常可以成功地使用数值计算来得出一个解，而下一部分描述了一些数学程序如何尝试从数值生成闭合形式的解。封闭式解决方案非常精确（空间

— 有限

5

维基百科可以作为参考。在这种情况下，您似乎已将“封闭式表达式”与“封闭式编号”混为一谈。他们的意思不同。

— ub

-2

封闭形式=封闭（功能性）形式

封闭意味着没有其他东西可以进入里面了。也就是说，没有其他选择=>只有一个解决方案=>只有一个函数可以建立结果与预测变量之间的关系。

— 维维克·阿斯特万什（Vivek Astvansh）
source

3

这也是该术语的不寻常用法。您能否提供一些在这种情况下使用它的示例？我最惊讶的是，因为人们经常听到关于积分的闭式形式/无闭式形式，它们实际上没有结果或预测变量。

— Matt Krause 2014年