标准和球形k均值算法之间的区别

我想了解一下，标准和球形k均值聚类算法之间的主要实现区别是什么。

在每个步骤中，k均值都会计算元素向量和聚类质心之间的距离，并将文档重新分配给这个质心最接近的质心。然后，重新计算所有质心。

在球面k均值中，所有向量均被归一化，距离度量为余弦不相似性。

这是全部，还是还有其他东西？

问题是：

经典k均值和球形k均值有什么区别？

经典K均值：

在经典k均值中，我们力求最小化聚类中心和聚类成员之间的欧几里得距离。这背后的直觉是，对于该群集的所有元素，从群集中心到元素位置的径向距离应“具有相同性”或“相似”。

该算法是：

• 设置集群数（又名集群数）
• 通过将空间中的点随机分配给聚类索引进行初始化
• 重复直到收敛
  • 对于每个点，找到最近的聚类，并将点分配给聚类
  • 对于每个聚类，找到成员点的平均值并更新中心平均值
  • 误差是集群距离的范数

球形K均值：

在球形k均值中，其思想是设置每个簇的中心，以使其均匀且使组件之间的角度最小。直觉就像看着星星-点之间的间距应该一致。该间距更容易量化为“余弦相似度”，但是这意味着没有“银河”星系在数据的天空上形成大片明亮的条带。（是的，我正在说明书的这一部分尝试与奶奶交谈。）

更多技术版本：

考虑一下矢量，您将图形绘制为带有方向且长度固定的箭头的事物。它可以翻译到任何地方，并且是相同的向量。参考

可以使用线性代数（尤其是点积）来计算空间中点的方向（其与参考线的角度）。

如果我们移动所有数据以使它们的尾部在同一点，则可以按它们的角度比较“向量”，并将相似的向量分组到一个群集中。

为了清楚起见，对向量的长度进行了缩放，以便更轻松地进行“眼球”比较。

您可以将其视为一个星座。单个星团中的恒星在某种意义上彼此靠近。这些是我眼中的星座。

通用方法的价值在于它使我们能够设计出没有几何尺寸的矢量，例如在tf-idf方法中，其中矢量是文档中的单词频率。添加的两个“和”词不等于“ the”。单词是非连续且非数字的。它们在几何意义上是非物理的，但是我们可以对其进行几何构造，然后使用几何方法进行处理。球形k均值可用于基于单词进行聚类。

$$\begin{bmatrix} x1&y1&x2&y2&group\\ 0&-0.8&-0.2013&-0.7316&B\\ -0.8&0.1&-0.9524&0.3639&A\\ 0.2&0.3&0.2061&-0.1434&C\\ 0.8&0.1&0.4787&0.153&B\\ -0.7&0.2&-0.7276&0.3825&A\\ 0.9&0.9&0.748&0.6793&C\\ \end{bmatrix}$$

一些要点：

• 它们投射到一个单位范围内，以解决文档长度上的差异。

让我们研究一个实际的过程，看看我的“眼球”是多么（糟糕）。

程序是：

1. （隐含在问题中）在原点连接向量尾巴
2. 投影到单位球体上（以考虑文档长度的差异）
3. 使用聚类来最小化“ 余弦差异 ”

$$J = \sum_{i} d \left( x_{i},p_{c\left( i \right)} \right)$$
$$d \left( x,p \right) = 1- cos \left(x,p\right) = \frac{\langle x,p \rangle}{\left \|x \right \|\left \|p \right \|}$$

（更多编辑即将推出）

链接：

1. http://epub.wu.ac.at/4000/1/paper.pdf
2. http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.111.8125&rep=rep1&type=pdf
3. http://www.cs.gsu.edu/~wkim/index_files/papers/refinehd.pdf
4. https://www.jstatsoft.org/article/view/v050i10
5. http://www.mathworks.com/matlabcentral/fileexchange/32987-the-spherical-k-means-algorithm
6. https://ocw.mit.edu/courses/sloan-school-of-management/15-097-prediction-machine-learning-and-statistics-spring-2012/projects/MIT15_097S12_proj1.pdf