将神经网络与稀疏输入配合使用时应遵循哪些准则

我的输入极为稀疏，例如输入图像中某些特征的位置。此外，每个功能都可以进行多次检测（不确定是否会影响系统的设计）。我将其表示为k通道“二进制图像”，其中ON像素表示该特征的存在，反之亦然。我们可以看到这样的输入注定是非常稀疏的。

因此，在将稀疏数据与神经网络一起使用时，是否有任何建议，特别是代表检测/位置的数据？

您可以尝试使用要素嵌入来减小输入空间的尺寸。NLP中的word2vec方法有点类似，因为您的功能是二进制的（开/关），因此似乎可以应用于您的情况。