当您不知道分布时如何采样

我是统计学的新手（一些初学者的Uni课程），并且想知道是否从未知分布中进行采样。具体来说，如果您不了解基本分布，是否有任何方法可以“保证”获得代表性样本？

举例说明：假设您试图弄清楚财富的全球分布。对于任何给定的个人，您都可以以某种方式找出他们的确切财富；但您无法“采样”地球上的每个人。因此，假设您随机抽样了n = 1000个人。

1. 如果您的样本中不包括比尔·盖茨，您可能会认为不存在亿万富翁。

2. 如果您的样本确实包括比尔·盖茨，您可能会认为亿万富翁比他们实际更为普遍。

无论哪种情况，您都无法真正分辨出亿万富翁的普通或罕见。您甚至可能根本无法判断是否存在任何内容。

对于这种情况，是否存在更好的采样机制？

您如何告诉先验使用哪种采样程序（以及需要多少个样本）？

在我看来，您可能必须“抽样”大量人口，以某种合理的确定性来了解地球上有多少普通或稀有的亿万富翁，这是由于基本的分布有点困难跟...共事。

我对您的说法提出异议，即“无论哪种情况，您都无法真正分辨出亿万富翁的普遍或稀有程度”。让$f$是人口中亿万富翁的未知部分。穿制服前$f$，后验分布 $f$ 后 $1000$ 证明有0个亿万富翁的平局是Beta（1,1001）分布，如下所示：

而后验分布 $f$ 后 $1000$ 证明有1个亿万富翁的平局是Beta（2,1000）分布，如下所示：

在这两种情况下，您都可以确定 $f < 0.01$。您可能会认为不够精确。但是实际上，对于大小为1000的样本，0.01是非常精确的。您可能估计的其他大多数数量都将不那么精确。例如，男性的比例只能在大小0.1的范围内估算。

您可以做两件事（分别或组合执行）

模拟尾巴

一种是使用参数分布对分布的尾部建模。众所周知，幂律非常适合财富分配，因此您可以尝试帕累托分配。您可以通过最大似然来拟合该分布，即找到最能代表您的样本的参数。或者更好的是，您可以将贝叶斯先验放在参数上，然后计算整个后验。

不幸的是，幂定律对参数非常敏感，并且在样本中没有很多大数据点的情况下，指数会有很多不确定性。估计的亿万富翁人数将对此参数敏感，但比亿万富翁的平均财富要少得多，因此情况还算不错。

重要抽样

另一个是改变您收集样品的方式。假设您（应该）怀疑摩纳哥或苏黎世的人均亿万富翁多于摩加迪休。如果您知道这些城市中的每个城市的人口，则可以在希望看到更多亿万富翁的城市中收集更多的样本，而在其他城市中收集较少的样本。

可以这么说，苏黎世有40万人，摩加迪沙有140万人，我们希望对9000人进行投票。我们对百万富翁而不是亿万富翁的数量感兴趣。

一个无偏见的样本将选择苏黎世的2,000人和摩加迪沙的7,000人。但是，我们将通过从苏黎世采样七次以上来对样本进行偏倚。因此，我们将“假装”苏黎世有280万人，并在以后进行调整。这意味着我们将对苏黎世的6,000人进行投票，而不是摩加迪沙的2,000和4,000人。

假设我们在苏黎世样本中算出21个百万富翁，而在摩加迪沙样本中只算出1个。由于我们对苏黎世的采样率是7倍，因此我们只能算作3个百万富翁。

此过程将减少估计量的方差。它也可以与第一种方法结合使用，在这种情况下，将在拟合参数分布时针对重要性采样进行调整。

我认为一种好的采样方法是基于该系统的先前知识。在您的领域中，您了解可能影响抽样的潜在偏见。如果您不具备该知识，则可以从文学中获得知识。

在您的示例中，您知道有亿万富翁，他们可能会对您的抽样产生偏见。因此，您可以决定按教育程度，国家/地区，工作类型等对抽样进行分层。有多种选择。

让我们尝试另一个示例。您的目标是确定公园中老鼠种类的数量。在这个公园里，有森林和草地。根据文献，您知道森林里的老鼠比草地上的老鼠更多。因此，您可以根据此特征对抽样进行分层。还有其他可能的抽样程序，但我认为您的最佳信息将来自现有文献。

如果没有关于您的领域的文献？不太可能，但是在这种情况下，我将进行预研究，以了解采样时需要考虑哪些因素。

样品是否具有代表性与观察到的样品测量无关。如果每组观测单位与其他任何相同大小的单位具有相同的被选择概率，则该样本具有代表性。当然，除非您可以完整地枚举示例空间，否则这很难做到。假设您可以（例如，从人口普查数据中）获得该数据，则一个简单的随机样本将具有代表性。

无论如何获取样本，始终至少要考虑三个单独的错误源：

抽样错误：您有机会在代表性样本中包含比尔·盖茨。统计方法，尤其是置信区间的宽度等旨在解决此问题，前提是您对手头的分配有一些粗略的了解（例如，正态性，而财富分配肯定不具备）。

抽样偏差：样本不具有代表性。示例：比尔·盖茨（Bill Gates）有一个未列出的电话号码，因此您的电话调查永远无法到达他（除非您使用“随机数字拨号”之类的方法）。这是一个极端的例子，但是采样偏差非常普遍。一种常见的情况是在现场或方便地进行采样：您在餐厅对餐厅顾客进行采样，以了解他们是否喜欢这个地方，他们去过那里的频率以及是否打算返回。回访客户比一次回访的客户更有可能被抽样，并且这种类型的样本在他们的态度上可能存在严重偏差。

响应偏差：测量本身不准确。这可能是由于从仪表故障到有意识的谎言到量子效应（例如海森堡的不确定性原理）之类的任何原因。