Questions tagged «convnet»

我正在启动一个项目，任务是从图像中识别运动鞋类型。我目前正在阅读TensorFlow和Torch实现。我的问题是：要达到合理的分类效果，每类需要多少张图像？

12 machine-learning  neural-network  image-classification  convnet  image-recognition 

是否有关于我应使用的LSTM电池的最小，最大和“合理”数量的经验法则（或实际规则）？具体来说，我与TensorFlow和property 有关的BasicLSTMCell有关num_units。 请假设我有以下定义的分类问题： t - number of time steps n - length of input vector in each time step m - length of output vector (number of classes) i - number of training examples 例如，训练示例的数量应该大于： 4*((n+1)*m + m*m)*c c单元数在哪里？我基于此：如何计算LSTM网络的参数数量？据我了解，这应该给出参数的总数，该总数应少于训练示例的数量。

12 rnn  machine-learning  r  predictive-modeling  random-forest  python  language-model  sentiment-analysis  encoding  machine-learning  deep-learning  neural-network  dataset  caffe  classification  xgboost  multiclass-classification  unbalanced-classes  time-series  descriptive-statistics  python  r  clustering  machine-learning  python  deep-learning  tensorflow  machine-learning  python  predictive-modeling  probability  scikit-learn  svm  machine-learning  python  classification  gradient-descent  regression  research  python  neural-network  deep-learning  convnet  keras  python  tensorflow  machine-learning  deep-learning  tensorflow  python  r  bigdata  visualization  rstudio  pandas  pyspark  dataset  time-series  multilabel-classification  machine-learning  neural-network  ensemble-modeling  kaggle  machine-learning  linear-regression  cnn  convnet  machine-learning  tensorflow  association-rules  machine-learning  predictive-modeling  training  model-selection  neural-network  keras  deep-learning  deep-learning  convnet  image-classification  predictive-modeling  prediction  machine-learning  python  classification  predictive-modeling  scikit-learn  machine-learning  python  random-forest  sampling  training  recommender-system  books  python  neural-network  nlp  deep-learning  tensorflow  python  matlab  information-retrieval  search  search-engine  deep-learning  convnet  keras  machine-learning  python  cross-validation  sampling  machine-learning 

我正在为一个应用程序制作原型，我需要一个语言模型来计算一些生成的句子的困惑度。 我可以随时使用经过训练的python语言模型吗？简单的东西 model = LanguageModel('en') p1 = model.perplexity('This is a well constructed sentence') p2 = model.perplexity('Bunny lamp robert junior pancake') assert p1 < p2 我看过一些框架，但找不到我想要的。我知道我可以使用类似： from nltk.model.ngram import NgramModel lm = NgramModel(3, brown.words(categories='news')) 这在Brown Corpus上使用了很好的图林概率分布，但是我正在一些大型数据集（例如1b单词数据集）上寻找精心设计的模型。我可以真正相信一般领域的结果（不仅是新闻）

11 python  nlp  language-model  r  statistics  linear-regression  machine-learning  classification  random-forest  xgboost  python  sampling  data-mining  orange  predictive-modeling  recommender-system  statistics  dimensionality-reduction  pca  machine-learning  python  deep-learning  keras  reinforcement-learning  neural-network  image-classification  r  dplyr  deep-learning  keras  tensorflow  lstm  dropout  machine-learning  sampling  categorical-data  data-imputation  machine-learning  deep-learning  machine-learning-model  dropout  deep-network  pandas  data-cleaning  data-science-model  aggregation  python  neural-network  reinforcement-learning  policy-gradients  r  dataframe  dataset  statistics  prediction  forecasting  r  k-means  python  scikit-learn  labels  python  orange  cloud-computing  machine-learning  neural-network  deep-learning  rnn  recurrent-neural-net  logistic-regression  missing-data  deep-learning  autoencoder  apache-hadoop  time-series  data  preprocessing  classification  predictive-modeling  time-series  machine-learning  python  feature-selection  autoencoder  deep-learning  keras  tensorflow  lstm  word-embeddings  predictive-modeling  prediction  machine-learning-model  machine-learning  classification  binary  theory  machine-learning  neural-network  time-series  lstm  rnn  neural-network  deep-learning  keras  tensorflow  convnet  computer-vision 

你会如何优化一个预先训练 neural network将它应用到一个单独的问题？您是否将更多层添加到预训练模型中并在数据集上进行测试？ 例如，如果任务是使用CNN对墙纸组进行分类，那么我敢肯定，即使是猫和狗的图像分类器，也无法直接对经过图像猫和狗训练的预训练网络进行分类。

11 neural-network  deep-learning  classification  convnet 

目前，这两种卷积运算在深度学习中非常常见。 我在本文中了解了膨胀的卷积层：WAVENET：原始音频的生成模型 和反卷积在本文中：用于语义分割的完全卷积网络 两者似乎都对图像进行了高采样，但是有什么区别？

11 machine-learning  deep-learning  convnet  computer-vision  convolution 

我正在尝试使用CNN（卷积神经网络）对文档进行分类。短文本/句子的CNN已在许多论文中进行了研究。但是，似乎没有论文将CNN用于长文本或文档。 我的问题是文档中的功能太多。在我的数据集中，每个文档都有1000多个标记/单词。为了将每个示例提供给CNN，我使用word2vec或手套将每个文档转换成矩阵，从而得到一个大矩阵。对于每个矩阵，高度是文档的长度，宽度是单词嵌入矢量的大小。我的数据集有9000多个示例，并且训练网络需要花费大量时间（整整一周），这使得难以微调参数。 另一种特征提取方法是对每个单词使用一个热向量，但这会创建非常稀疏的矩阵。当然，这种方法比以前的方法花费更多的时间进行训练。 那么，有没有一种在不创建大型输入矩阵的情况下提取特征的更好方法？ 以及如何处理可变长度的文件？当前，我添加了特殊字符串以使文档具有相同的长度，但是我认为这不是一个很好的解决方案。

11 classification  neural-network  text-mining  convnet  word2vec 

我试图找出CNN需要多少权重和偏见。 假设我有一个（3，32，32）图像，并想应用（32，5，5）滤镜。对于每个功能图，我有5x5的权重，所以我应该有3 x（5x5）x 32的参数。现在，我需要添加偏见。我相信我只有（3 x（5x5）+ 1）x 32个参数，因此所有颜色（RGB）的偏差都一样吗？ 它是否正确？当我使用不同的权重时，是否在每个图像的深度（在本例中为3）上保持相同的偏差？这是为什么？

11 deep-learning  convnet  backpropagation 

我见过的大多数网络在最后的softmax层之前都有一两个密集层。 有没有选择密集层的数量和大小的原则方法？ 对于相同数量的参数，两个密集层是否比一层更具代表性？ 应该在每个致密层之前还是仅一次施加压降？

11 convnet 

我想知道如何在EEG环境中解释循环架构。具体来说，我将其视为循环CNN（与LSTM等架构相反），但也许它也适用于其他类型的循环网络 当我读到R-CNN时，通常会在图像分类上下文中对它们进行解释。通常将它们描述为“随着时间的推移学习”或“包括time-1对当前输入的影响” 当使用EEG数据时，这种解释/解释会变得非常混乱。在此处可以找到在 EEG数据上使用R-CNN的示例 想象一下，我有一些训练示例，每个示例都包含一个1x512数组。该阵列在512个连续的时间点捕获1个电极的电压读数。如果将其用作循环CNN的输入（使用1D卷积），则模型的循环部分实际上并没有捕获“时间”，对吗？（如先前讨论的说明/解释所暗示），因为在这种情况下，时间已经被数组的第二维捕获了 因此，通过这样的设置，网络的循环部分实际上允许我们对常规CNN无法（如果不是时间）进行建模吗？ 在我看来，循环仅意味着进行卷积，将结果添加到原始输入中，然后再次进行卷积。重复执行x个重复步骤。这个过程实际上有什么好处？

10 machine-learning  neural-network  convnet  rnn 

我正在分析脑电数据，最终将需要对其进行分类。但是，获取唱片的标签有些昂贵，这使我考虑采用无监督方法，以更好地利用我们大量的无标签数据。 这自然会导致考虑堆叠自动编码器，这可能是一个好主意。但是，使用卷积神经网络也是有意义的，因为某种形式的过滤通常是对EEG的非常有用的方法，并且所考虑的时期可能应该在本地而非整体上进行分析。 是否有结合两种方法的好方法？似乎当人们使用CNN时，他们通常会使用监督培训，或者什么？探索神经网络来解决我的问题的两个主要好处似乎是无人监管，以及微调（例如，在人口数据上创建一个网络，然后针对个人进行微调很有趣）。 那么，有谁知道我是否可以像训练“残破的”自动编码器那样预训练CNN，还是毫无意义？ 我是否应该考虑其他某种架构，例如深度信任网络？

9 deep-learning  convnet  unsupervised-learning  autoencoder 

基于我们正在研究的项目，我进行了有趣的讨论：为什么在模板匹配算法上使用CNN视觉检查系统？ 背景：我展示了一个简单的CNN视觉系统（网络摄像头和笔记本电脑）的演示，该系统检测特定类型的对象是否“损坏” /有缺陷-在这种情况下，是PCB电路板。我的CNN模型显示了在静态背景下正确和断裂的电路板（每个电路板大约100张图像）的示例。我们的模型使用了预先训练的VGG16的前几个conv / maxpool层（在imagenet上），然后我们添加了一些可训练的conv / pool，并带有一些密度，从而得到了dim-3一个热编码的矢量输出用于分类：（is_empty，has_good_product，has_defective_product）。 该模型非常容易训练，并且达到99％的验证准确无误；由于我们知道我们的数据集很小，因此我们还进行了各种数据扩充方面的培训。实际上，它的工作效率约为10的9倍，但是同一块电路板的几次随机平移/旋转有时会使其处于相反的类别。也许更积极的数据增强会有所帮助。无论如何，对于原型概念项目，我们感到很高兴。 现在我们正在向另一位工程师和他的同事介绍，他提出了这样的论点，即NN对于此而言是过大的，应该只使用模板匹配，为什么要做CNN？ 对于为什么我们的方法在某些应用程序（例如要检查的其他零件）中会更好，我们没有一个很好的答案。我们提出了一些要点： 1）对不变性更健壮（例如通过数据增强） 2）可以进行在线学习以改进系统（例如，人可以告诉软件哪个示例出错了） 3）不需要像传统计算机视觉算法中那样设置阈值，您认为呢，对于这种类型的检查任务，CNN系统还有更多优势吗？在什么情况下会比模板匹配更好？ 对于何时将深度NN用作工作的技术，还有一些随机的想法：对于需要3D深度感测作为输入一部分的系统，或者可以变形/拉伸/挤压但仍然“好”的任何类型的对象，以及没有缺陷（例如毛绒动物，电线等）。很好奇听到您的想法:)

9 machine-learning  convnet  image-classification 

我目前正在对重建这一结果纸。在本文中，他们描述了一种使用CNN进行特征提取的方法，并具有Dnn-hmm的声学模型，并使用RBM进行了预训练。 第三节A小节陈述了可以表示输入数据的不同方式。我决定垂直堆叠静态，增量和增量增量的频谱图。 因此： 然后，本文描述了网络的运行方式。他们声明他们使用了卷积网络，但是关于网络的结构却一无所知。此外，网络是否始终被称为卷积层？我敢肯定，与普通的网络卷积神经网络（cnn）相比，我看不出任何区别。 该文件就差异指出了这一点： （摘自第三节B小节） 但是，卷积层在两个重要方面与标准的完全连接的隐藏层不同。首先，每个卷积单元仅从输入的局部区域接收输入。这意味着每个单元代表输入局部区域的某些特征。其次，卷积层的单元本身可以组织为多个特征图，其中同一特征图中的所有单元共享相同的权重，但从较低层的不同位置接收输入 我想知道的另一件事是，该论文是否实际陈述了馈送dnn-hmm声学模型所需的输出参数。我似乎无法解码过滤器的数量，过滤器的大小..网络的一般细节？

9 neural-network  convnet  feature-extraction  audio-recognition 

是否有发表的论文显示出神经网络正则化方法的差异，最好在不同的域（或至少在不同的数据集）上？ 我之所以问是因为我目前的感觉是，大多数人似乎只使用辍学来实现计算机视觉的正则化。我想检查是否有理由（不）使用不同的正则化方式。

9 neural-network  computer-vision  convnet  regularization  dropout 

我正在尝试在keras中训练模型，并使用ModelCheckpoint根据监视的验证指标（在我的情况下为Jaccard index）保存最佳模型。 虽然可以在tensorboard中看到模型的改进，但是当我尝试加载权重并评估模型时，它根本无法工作。此外，通过应该存储权重的文件上的时间戳，我可以知道它们根本没有被保存。时间戳大致对应于我开始训练的时间。 有人遇到过这样的问题吗？

8 keras  convnet