理论计算机科学 chernoff-bound

6

是否存在切尔诺夫逆边界，该边界会限制尾部概率至少如此之大。例如，如果是独立的二项式随机变量，并且。然后我们可以证明对于某些函数。X1,X2,…,XnX1,X2,…,XnX_1,X_2,\ldots,X_nμ=E[∑ni=1Xi]μ=E[∑ni=1Xi]\mu=\mathbb{E}[\sum_{i=1}^n X_i]Pr[∑ni=1Xi≥(1+δ)μ]≥f(μ,δ,n)Pr[∑ni=1Xi≥(1+δ)μ]≥f(μ,δ,n)Pr[\sum_{i=1}^n X_i\geq (1+\delta)\mu]\geq f(\mu,\delta,n)fff

31 pr.probability chernoff-bound

1

切尔诺夫求和

考虑，其中lambda_i> 0且Y_i作为标准正态分布。作为（固定）系数lambda_i的函数，一个人可以在X上证明什么样的浓度范围？X=∑iλiY2iX=∑iλiYi2X = \sum_i \lambda_i Y_i^2 如果所有的lambda_i相等，则这是切尔诺夫界。我知道的唯一另一个结果是Arora和Kannan的论文中的引理（“学习任意高斯的混合”，STOC'01，引理13），证明了，即界限取决于系数平方和。Prob(X<E[X]−t)<exp(−t2/(4∑iλ2i)Prob(X<E[X]−t)<exp(−t2/(4∑iλi2)Prob(X < E[X] - t) < exp(-t^2/(4 \sum_i \lambda_i^2) 他们的引理的证明类似于切尔诺夫界的通常证明。是否还有其他“规范的”界限，或者关于lambda_i的哪个函数如此大以确保良好的指数集中（这里的函数只是平方和）的一般理论？也许一些熵的一般度量？如果存在的话，对于Arora-Kannan引理的更标准的参考也将是很棒的。

14 chernoff-bound

3

成对独立随机变量的Chernoff型不等式

Chernoff型不等式用于表明，独立随机变量之和与期望值明显偏离的概率在期望值和偏差上呈指数级减小。成对独立随机变量的总和是否存在Chernoff型不等式？换句话说，是否显示以下结果：成对的独立随机变量之和偏离其期望值的概率在期望值和偏差上呈指数级减小？

13 derandomization pr.probability chernoff-bound

3

切尔诺夫界的扩展

我正在寻找对Chernoff的以下扩展的参考（不是证明，我可以做）。设是布尔型随机变量，不一定是独立的。相反，对于每个i和仅依赖于{ X j |的每个事件C，可以保证P r （X i = 1 | C ）< p j ≠ i }。X1个，。。，XñX1,..,XnX_1,..,X_nP[R （X一世= 1 |C）< pPr(Xi=1|C)<pPr(X_i=1|C)(1+\lambda)np\right) 提前致谢！

13 reference-request pr.probability chernoff-bound

2

独立指数随机变量的总和

我们可以证明在独立指数随机变量的总和上有一个尖锐的集中结果是独立随机变量，使得。令。我们可以证明形式为。如果我们使用chernoff边界的方差形式，那么这将直接遵循，因此我相信这是正确的，但是我读取的边界需要有界或对变量的有界有一定的依赖性。有人可以指出以上证明吗？ P - [R （X 我 < X ）= 1 - ë - X / λ 我X1,…XrX1,…XrX_1, \ldots X_rPr(Xi<x)=1−e−x/λiPr(Xi<x)=1−e−x/λiPr(X_i < x) = 1 - e^{-x/\lambda_i}Z=∑XiZ=∑XiZ = \sum X_iPr(|Z−μZ|>t)<e−t2/∑(λi)2Pr(|Z−μZ|>t)<e−t2/∑(λi)2Pr(|Z-\mu_Z|>t) < e^{-t^2/\sum (\lambda_i)^2}

12 pr.probability randomness chernoff-bound

2

具有3个结果的随机变量的Chernoff型不等式

假设我们有一个随机变量，该变量采用非数字值a，b，c，并希望量化 nnn此变量的样本偏离真实分布。在这种情况下，以下不等式（来自Cover和Thomas）适用。定理12.4.1（萨诺夫定理）： X1,X2,…,XnX1,X2,…,XnX_1, X_2, \ldots, X_n 闲逛 ∼Q(x)∼Q(x)\sim Q(x)。让E⊆PE⊆PE \subseteq \mathscr{P}是一组概率分布。然后 Qn(E)=Qn(E∩Pn)≤(n+1)|X|2−nD(P∗||Q),Qn(E)=Qn(E∩Pn)≤(n+1)|X|2−nD(P∗||Q),Q^n(E) = Q^n(E \cap \mathscr{P}_n) \leq (n+1)^{|\mathcal{X}|}2^{-nD(P^*||Q)}, 哪里 P∗=argminP∈ED(P||Q),P∗=arg⁡minP∈ED(P||Q),P^* = \arg\min_{P \in E} D(P||Q), 是相对熵中最接近中的分布。EEEQQQ 对于小这个不等式相当宽松。对于二进制结果，，并且Chernoff-Hoeffding边界要严格得多。nnn|X|=2|X|=2|\mathcal{X}|=2 是否有类似的严格限制？|X|=3|X|=3|\mathcal{X}|=3

9 pr.probability chernoff-bound

Questions tagged «chernoff-bound»