没有低概率坐标的高概率事件


9

X 是一个随机变量,值取 Σn (对于一些大字母 Σ),它具有很高的熵-例如, H(X)(nδ)log|Σ| 对于一个任意小的常数 δ。让ESupp(X) 在…的支持下成为一个事件 X 这样 Pr[XE]1ε,其中是任意小的常数。ε

我们说,一对是一个低概率坐标的如果。我们说一个字符串含有的低概率坐标如果是一个低概率的坐标一些。(i,σ)EPr[XE|Xi=σ]εxΣn E(i,xi)Ei

一般情况下,在某些字符串可能含有的低概率坐标。现在的问题是,我们总能找到一个大概率事件使得没有字符串包含的概率很低坐标(而不是)。EEEEEEE

谢谢!

Answers:


4

这是对圆圆的回答的一个例子。对于一个反例,它足以确定适当的和显示任何大的子集必须有一个低概率的统筹 -的概率很低统筹必然是一个低概率合作纵坐标。X,EEEEEE

另外,我将忽略关于熵的条件-追加独立均匀分布的随机变量,以(并考虑到)将会增加几乎达到而不会影响是否存在这样的(尽管我没有仔细研究)。NXEE×ΣNH(X)/(n+N)log|Σ|1E

这是例子。令为的随机元素,以使每个汉明权重为向量(即形式为向量)的概率为,而全部向量概率为。令为汉明权重为的向量的集合。X{0,1}n100100(1ϵ)/n11ϵE1

考虑一个子集,。如果不为空,则它包含汉明权重的向量,例如而不会失去一般性。但是,如果为,则小于约。EEE11000Pr[XE|Xi=1]=(1ϵ)/n(1ϵ)/n+ϵϵn2/ϵ2


6

与相比如何?如果可以为,那么我认为我们可以完成您想要的。令。注意,给定在下的概率质量。令表示分配给字符串的概率质量,使得第个坐标具有符号。ϵnϵO(1/n)B=Supp(X)EBϵXλ(i,σ)ϵBiσ

假设是某些字符串的低概率坐标。令表示分配给这些字符串的概率质量。然后,根据定义,,表示该。我们可以丢弃这些低概率字符串,而仅使概率损失。质量。(i,σ)Eδ(i,σ)δ(i,σ)δ(i,σ)+λ(i,σ)ϵϵδ(i,σ)2λ(i,σ)ϵ2δ(i,σ)E

继续为所有可能的不良问题进行此操作,最后我们最多仅丢弃。这使用了这样的事实:对于所有,。(i,σ)i,σδ(i,σ)iσ2λ(i,σ)ϵ22iϵ2=2nϵ2iσλ(i,σ)=1

如果您希望概率质量为,则必须为,或者就足够了。E1γϵϵ+2nϵ2γϵ=O(γ/2n)

目前,我尚不清楚是否可以摆脱对依赖。我会继续考虑。n


哦,我只是意识到你正在寻找一个更强的要求-那就是没有任何可能性很低坐标相对于,而不是。我今天晚些时候再谈这个。EEE
袁子春

谢谢!我正在寻找恒定的epsilon,但它可以任意小。
或Meir 2012年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.