我的问题是:
- 是否可以保证广义线性模型(GLM)收敛到全局最大值?如果是这样,为什么?
- 此外,链接函数对确保凸性有哪些约束?
我对GLM的理解是它们最大化了高度非线性的似然函数。因此,我可以想象有几个局部最大值,您收敛到的参数集取决于优化算法的初始条件。但是,在进行了一些研究之后,我没有找到一个单一的来源来表明存在多个局部最大值。此外,我对优化技术不是很熟悉,但是我知道Newton-Raphson方法和IRLS算法非常容易出现局部最大值。
请尽可能在直观和数学的基础上进行解释!
编辑:dksahuji回答了我的原始问题,但我想在上面添加后续问题[ 2 ]。(“链接函数上有什么约束可确保凸性?”)
我认为必须先有一些限制。声明的来源是什么?
—
Glen_b-恢复莫妮卡2014年
似乎有几个站点暗示了它,但是我找不到任何直接提及它的内容,因此,我也欢迎对此提出异议!
—
DankMasterDan 2014年
只要在域中的任何地方都很好地定义了可能性(并且忽略了一些切线的数值问题),我认为是的。在这些条件下,该区域上的每个地方的麻省<0,因此似然性是全局凹的。顺便说一句,该函数在参数中不是“高度非线性” 的,这才是重要的。
—
user603 2014年
@ user603您的来源/证明粗麻布在任何地方都小于0是什么?
—
DankMasterDan 2014年
给定“良好”链接函数,逻辑,泊松和高斯回归通常是凸的。但是,具有任意链接功能时,它们不是凸的。
—
2014年