t-SNE对最近的邻居有意义吗？

对此的回答表明，t-SNE中的尺寸是没有意义的，并且点之间的距离不是相似性的量度。

但是，基于t-SNE空间中最接近的点，我们能说点什么吗？为什么完全相同的点不会聚类的答案表明，在较低和较高尺寸的表示形式之间，点之间的距离比是相似的。

例如，下图显示了我的一个数据集（15个类）上的t-SNE。

我可以说cro 479（右上方）是一个离群值吗？是fra 1353（左下）更类似于cir 375比其他图像fra类，等等？还是这些仅仅是人工制品，例如fra 1353被卡在了几个集群的另一端而无法强行进入另一类fra？

不，没有必要如此，但是，以一种令人费解的方式，这是T-SNE的目标。

在深入探讨答案之前，让我们从数学和直观角度看一些基本定义。

$\mathbb{R}^d$$X_1, ..., X_n \in \mathbb{R}^d$$x \in \mathbb{R}^d$$|| X_1 - x || \le ... \le ||X_n - x ||$$\mathbb{R}^d$

$d$$y$$x$$d$$d$$d + k$。因此，我们有一个直觉，那就是在不同尺寸上保持距离，或者至少这是我们的目标。让我们尝试用一些数学来证明这一点。

$p_{j | i} = \frac{exp(\frac{-||x_j - x_i||^2}{2\sigma^2})}{\sum_{k \neq i}{exp(\frac{-||x_j - x_i||^2}{2\sigma^2})}}$$\mathbb{R}^k$

现在最后是一个简洁的编码示例，它也演示了这个概念。

from sklearn.manifold import TSNE
from sklearn.neighbors import KNeighborsClassifier
X = [[0],[1],[2],[3],[4],[5],[6],[7],[8],[9]]
y = [0,1,2,3,4,5,6,7,8,9]
neighs = KNeighborsClassifier(n_neighbors=3)
neighs.fit(X, y)
X_embedded = TSNE(n_components=1).fit_transform(X)
neighs_tsne = KNeighborsClassifier(n_neighbors=3)
neighs_tsne.fit(X_embedded, y)
print(neighs.predict([[1.1]]))
>>>[0]
print(neighs_tsne.predict([[1.1]]))
>>>[0]

尽管这是一个非常幼稚的示例，并且没有反映出复杂性，但是通过一些简单示例的实验，它确实可以工作。

编辑：另外，针对问题本身添加一些要点，因此没有必要是这种情况，但是，通过数学对其进行合理化将证明您没有具体结果（没有确定的是或否） 。

我希望这可以消除您对TSNE的一些担忧。