如何用时变偏差建模偏差硬币？

偏向硬币模型通常具有一个参数。从一系列平局中估计一种方法是使用Beta先验并以二项式似然计算后验分布。$\theta = P(\text{Head} | \theta)$$\theta$

在我的环境中，由于一些奇怪的物理过程，我的硬币特性正在缓慢变化，成为时间的函数。我的数据是一组有序抽奖，即。我可以认为我在离散且规则的时间网格上每仅获得一个抽奖。吨{ ħ ，Ť ，ħ ，ħ ，ħ ，Ť ，。。。} $\theta$$t$$\{H,T,H,H,H,T,...\}$$t$

您将如何建模？我正在考虑类似卡尔曼滤波器的事情，以适应隐藏变量为并保持二项式可能性的事实。我可以使用什么来建模P（\ theta（t + 1）| \ theta（t））以保持推理的可操纵性？P （θ （吨+ 1 ）| θ （吨）$\theta$$P(\theta(t+1)|\theta(t))$

编辑以下答案（谢谢！）：我想将\ theta（t）建模$\theta(t)$为1级马尔可夫链，就像在HMM或Kalman滤波器中所做的那样。我可以做出的唯一假设是$\theta(t)$是平滑的。我可以将$P(\theta(t+1)|\theta(t)) = \theta(t) + \epsilon$与\ epsilon一起写成$\epsilon$一个小高斯噪声（卡尔曼滤波器的思想），但这会破坏\ theta的要求$\theta$必须保留在$[0,1]$。遵循@J Dav的想法，我可以使用probit函数将实线映射到$[0,1]$，但是我有直觉，这将提供非分析性的解决方案。均值\ theta（t）的 beta分布$\theta(t)$ 而更大的差异可以解决问题。

我问这个问题是因为我觉得这个问题是如此简单，以至于必须先进行研究。

我怀疑您是否可以提出带有解析解决方案的模型，但是由于模型的依赖结构很简单，因此使用正确的工具仍然可以使推理变得容易。作为机器学习研究人员，我希望使用以下模型，因为使用期望传播技术可以使推理非常有效：

令为第试验的结果。让我们定义随时间变化的参数$X(t)$$t$

吨≥ $\eta(t+1) \sim \mathcal{N}(\eta(t), \tau^2)$为。$t \geq 0$

要将与，请引入潜在变量X （t $\eta(t)$$X(t)$

$Y(t) \sim \mathcal{N}(\eta(t), \beta^2)$，

且模型为$X(t)$

Ý （吨）≥ 0 X （吨）= $X(t) = 1$如果则，否则。您实际上可以忽略并将其边缘化，只是说，（其中 cdf为标准范本），但引入潜在变量使推理变得容易。另外，请注意，在原始参数化。$Y(t) \geq 0$$X(t) = 0$$Y(t)$$\mathbb{P}[X(t)=1] = \Phi(\eta(t)/\beta)$$\Phi$$\theta(t) = \eta(t)/\beta$

如果您对实现推理算法感兴趣，请阅读本文。他们使用非常相似的模型，因此您可以轻松调整算法。要理解EP，以下页面可能会有用。如果您有兴趣采用这种方法，请告诉我；我可以提供有关如何实施推理算法的更详细的建议。

为了详细说明我的意见，例如p（t）= p exp（-t）的模型很简单，可以通过使用最大似然估计来估计来估计p（t）。但是，概率确实确实呈指数下降。如果您观察到的成功率比早晚观察到的成功率高，那么该模型显然是错误的。振荡行为可以建模为p（t）= p | sint |。两种模型都非常易于处理，可以通过最大可能性解决，但是它们给出的解决方案截然不同。$_0$$_0$$_0$

您的概率随变化，但正如迈克尔所说，您不知道如何。线性与否？它看起来像一个模型选择问题，其中您的概率：$t$$p$

$p=\Phi(g(t,\theta))$可能取决于高度非线性的函数。是一个边界函数，可保证0和1之间的概率。$g(t,\theta)$$\Phi$

一种简单的探索性方法是尝试使用具有不同非线性多个概率，并根据标准信息准则执行模型选择。$\Phi$$g()$$g()$

要回答您重新编辑的问题：

如您所说，使用probit仅意味着数值解，但是您可以改用logistic函数：

逻辑函数：$P[\theta(t+1)] = \frac{1}{1+\exp{(\theta(t)+\epsilon)}}$

线性化为：$\log{\frac{P}{1-P}} = \theta(t)+\epsilon$

我不确定在卡尔曼滤波方法下该方法如何工作，但仍然相信等非线性规范或许多其他没有随机项的规范会做这份工作。如您所见，从连续性和可区分性的角度来看，此功能是“平滑”的。不幸的是，添加会产生结果概率的跳跃，这是您不希望的，因此我的建议是删除。ε $\theta(t+1)=a t^3 +bt^2+ct + d$$\epsilon$$\epsilon$

对数概率：$P[Coin_{t+1}=H | t] = \frac{1}{1+\exp{(\theta(t))}}$

您已经在bernoulli事件（Markov Chain）中拥有randomnes，并且由于，您正在添加它的其他来源。因此，您的问题可以通过最大似然估计的Probit或Logit来解决，其中为解释变量。我想您同意简约性非常重要。除非您的主要目标是应用给定的方法（HMM和卡尔曼滤波器），而不是为问题提供最简单有效的解决方案。$\epsilon$$t$