使用配对的t检验
只要您有足够的评分（15个就足够了，即使更少的评分我也会很高兴）并且评分差异有所变化，使用配对t检验完全没有问题。然后，您将获得很容易解释的估计值-1到5的数字范围的平均评级及其差额（产品之间）。
R代码
在R中很容易做到：
> ratings = c("very bad", "bad", "okay", "good", "very good")
> d = data.frame(
customer = 1:15,
product1 = factor(c(5, 4, 3, 5, 2, 3, 2, 5, 4, 4, 3, 5, 4, 5, 5),
levels=1:5, labels=ratings),
product2 = factor(c(1, 2, 2, 3, 5, 4, 3, 1, 4, 5, 3, 4, 4, 3, 3),
levels=1:5, labels=ratings))
> head(d)
customer product1 product2
1 1 very good very bad
2 2 good bad
3 3 okay bad
4 4 very good okay
5 5 bad very good
6 6 okay good
首先，让我们检查平均评分：
> mean(as.numeric(d$product1))
[1] 3.9333
> mean(as.numeric(d$product2))
[1] 3.1333
而牛逼 -测试给了我们：
> t.test(as.numeric(d$product1),
as.numeric(d$product2), paired=TRUE)
Paired t-test
data: as.numeric(d$product1) and as.numeric(d$product2)
t = 1.6, df = 14, p-value = 0.13
alternative hypothesis: true difference in means is not equal to 0
95 percent confidence interval:
-0.27137 1.87137
sample estimates:
mean of the differences
0.8
p有力地表明，产品被评为不同，尽管0.8的明显差异（但千万注意相当置信区间-我们真的需要更多的数据）。
假数据？
奇怪的是，未配对的t检验给出了较低的 p值。
> t.test(as.numeric(d$product1),
as.numeric(d$product2), paired=FALSE)
Welch Two Sample t-test
data: as.numeric(d$product1) and as.numeric(d$product2)
t = 1.86, df = 27.6, p-value = 0.073
[…]
这确实表明示例数据是伪造的。对于真实数据，可以期望同一客户的评级之间存在（非常高的）正相关。这里的相关是负的（尽管统计上不是很明显）：
> cor.test(as.numeric(d$product1), as.numeric(d$product2))
Pearson's product-moment correlation
data: as.numeric(d$product1) and as.numeric(d$product2)
t = -1.38, df = 13, p-value = 0.19
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
-0.73537 0.18897
sample estimates:
cor
-0.35794
缺失数据
如果并非所有客户都对这两种产品都进行了评级（即数据不平衡），则更好的方法是使用混合效应模型：
首先让我们将数据转换为数字形式：
> d2 = d
> d2[,-1] = lapply(d2[,-1], as.numeric)
并将其转换为“长”形式：
> library(tidyr)
> d3 = gather(d2, product, value, -customer)
最后，将混合效果模型与客户拟合为随机效果：
> l = lme(value~product, random=~1|customer, data=d3)
> summary(l)
Linear mixed-effects model fit by REML
Data: d3
AIC BIC logLik
101.91 107.24 -46.957
Random effects:
Formula: ~1 | customer
(Intercept) Residual
StdDev: 3.7259e-05 1.1751
Fixed effects: value ~ product
Value Std.Error DF t-value p-value
(Intercept) 3.9333 0.30342 14 12.9633 0.0000
productproduct2 -0.8000 0.42910 14 -1.8644 0.0834
[…]
p
摘要
总之，使用配对的t-检验。然后，您将获得易于解释的估计值（简单的数字平均值）。
如果并非所有客户都对这两种产品都进行了评级，请改用混合效果模型。（当配对的t检验都对这两种产品都进行了评级时，这将获得与配对t检验大致相同的结果，因此您最好始终使用它。）
