Questions tagged «tensorflow»

我正在使用Tensorflow进行语音识别，并计划使用海浪数据集训练LSTM NN。由于性能提高，我计划使用tfrecords。互联网上有几个示例（例如Inception），其中tfrecords文件被拆分为多个碎片。我的问题是：将tfrecords文件放入分片有什么好处？此拆分是否有其他性能提升？

17 python  tensorflow 

我知道keras充当TensorFlow的高级接口。 但是在我看来，keras可以自己完成许多功能（数据输入，模型创建，训练，评估）。 此外，TensorFlow的某些功能可以直接移植到keras（例如，可以在keras中使用tf度量或损失函数）。 我的问题是，TensorFlow提供了哪些无法在keras中复制的功能？

16 keras  tensorflow 

我开始从Tensorflow网站学习机器学习。对于深度学习程序遵循的流程，我已经有了非常基本的了解（这种方法使我可以快速学习，而不必阅读书籍和大型文章）。 我遇到了一些令人困惑的事情，其中​​两个是： 偏压 重量 在tensorflow网站上的MNIST教程中，他们提到我们需要偏见和权重才能找到图像中存在特定图案的证据。我不明白的是，在何处以及如何确定“偏差”和“权重”的值？ 我们是否必须提供这些值，或者TensorFlow库是否基于训练数据集自动计算这些值？ 另外，如果您可以提供一些有关如何加快我的深度学习速度的建议，那就太好了！ Tensorflow初学者教程

16 machine-learning  deep-learning  tensorflow 

谷歌最近在tensorflow的每晚构建中加入了其Eager模式，这是访问tensorflow计算功能的必要API。 张量流渴望与PyTorch相比如何？ 可能影响比较的一些方面可能是： 渴望的优缺点来自其静态图的遗留（例如，节点中的名称）。 它们中任何一个都没有的内在限制。 其中之一需要改进的领域（例如，功能完整性，计算优化）。 生态系统差异（例如张量板？）。 注意1：Yaroslav Bulatov撰写了有关eager不错功能的评论。 注意2：在上一个问题中，我要求比较PyTorch和Tensorflow Fold。当时，在我看来Fold可以面对PyTorch，这要归功于Google的支持。我非常错：最终，Google本身放弃了Fold而转而使用Eager。我知道这是由于普通tensorflow API的固有限制导致Fold不太友好，从而限制了它的采用。

14 deep-learning  tensorflow  pytorch 

我正在训练一个卷积神经网络以对雾条件下的图像进行分类（3类）。但是，对于约150.000张图像中的每张图像，我还具有四个可用的气象变量，这些变量可能有助于预测图像的类别。我想知道如何将气象变量（例如温度，风速）添加到现有的CNN结构中，从而有助于分类。 我已经想到的一种方法是在CNN旁边创建另一个（小型）前馈神经网络，然后在密集层将CNN层的输出和非图像神经网络的隐藏层彼此连接。 我能想到的第二种方法就是将这些要素与致密层接触。但是，在这种情况下，非图像变量（我认为）只能进行线性预测。 还有其他（更好）的方法可以将非图像特征包括在模型中吗？考虑到我拥有的数据量，什么是明智的选择呢？ 我还有一个问题是，在使用这些非图像特征进行训练时，是否应该解冻卷积层？Resnet-18的这些层（在ImageNet上初始化为预先训练的）已经使用图像进行了微调。我的猜测是，我应该使它们保持冻结状态，并且仅解冻稠密层，因为只有在这种情况下，非图像特征才与图像特征“接触”（在CNN的较早版本中才出现）。如果我错了，请这样说！

14 machine-learning  neural-network  deep-learning  tensorflow  cnn 

我有一个每天生成的大型多维数据集。 与前几天相比，什么是检测任何类型的“异常”的好方法？这是神经网络可以解决的合适问题吗？ 任何建议表示赞赏。 附加信息：没有示例，因此该方法应自行检测异常

12 tensorflow  keras  anomaly-detection 

我有一个高度不平衡的数据分类问题。我已经读到，过高，过低的采样率以及更改代表性不足的分类输出的成本将导致更好的拟合度。在此之前，tensorflow会将每个输入归类为多数组（并获得超过90％的准确度，这是毫无意义的）。 我注意到，每个组的倒数百分比的对数已经成为我尝试过的最佳乘数。成本函数是否有更标准的操纵方式？是否正确实施？ from collections import Counter counts = Counter(category_train) weightsArray =[] for i in range(n_classes): weightsArray.append(math.log(category_train.shape[0]/max(counts[i],1))+1) class_weight = tf.constant(weightsArray) weighted_logits = tf.mul(pred, class_weight) cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(weighted_logits, y)) optimizer = tf.train.AdamOptimizer(learning_rate=learning_rate).minimize(cost)

12 tensorflow  loss-function 

是否有关于我应使用的LSTM电池的最小，最大和“合理”数量的经验法则（或实际规则）？具体来说，我与TensorFlow和property 有关的BasicLSTMCell有关num_units。 请假设我有以下定义的分类问题： t - number of time steps n - length of input vector in each time step m - length of output vector (number of classes) i - number of training examples 例如，训练示例的数量应该大于： 4*((n+1)*m + m*m)*c c单元数在哪里？我基于此：如何计算LSTM网络的参数数量？据我了解，这应该给出参数的总数，该总数应少于训练示例的数量。

12 rnn  machine-learning  r  predictive-modeling  random-forest  python  language-model  sentiment-analysis  encoding  machine-learning  deep-learning  neural-network  dataset  caffe  classification  xgboost  multiclass-classification  unbalanced-classes  time-series  descriptive-statistics  python  r  clustering  machine-learning  python  deep-learning  tensorflow  machine-learning  python  predictive-modeling  probability  scikit-learn  svm  machine-learning  python  classification  gradient-descent  regression  research  python  neural-network  deep-learning  convnet  keras  python  tensorflow  machine-learning  deep-learning  tensorflow  python  r  bigdata  visualization  rstudio  pandas  pyspark  dataset  time-series  multilabel-classification  machine-learning  neural-network  ensemble-modeling  kaggle  machine-learning  linear-regression  cnn  convnet  machine-learning  tensorflow  association-rules  machine-learning  predictive-modeling  training  model-selection  neural-network  keras  deep-learning  deep-learning  convnet  image-classification  predictive-modeling  prediction  machine-learning  python  classification  predictive-modeling  scikit-learn  machine-learning  python  random-forest  sampling  training  recommender-system  books  python  neural-network  nlp  deep-learning  tensorflow  python  matlab  information-retrieval  search  search-engine  deep-learning  convnet  keras  machine-learning  python  cross-validation  sampling  machine-learning 

我目前正在使用tensorflow上的课程，他们使用tf.one_hot（indices，depth）。现在我不明白这些索引如何变成二进制序列。 有人可以向我解释确切的过程吗？？？

11 machine-learning  python  neural-network  deep-learning  tensorflow 

我正在为一个应用程序制作原型，我需要一个语言模型来计算一些生成的句子的困惑度。 我可以随时使用经过训练的python语言模型吗？简单的东西 model = LanguageModel('en') p1 = model.perplexity('This is a well constructed sentence') p2 = model.perplexity('Bunny lamp robert junior pancake') assert p1 < p2 我看过一些框架，但找不到我想要的。我知道我可以使用类似： from nltk.model.ngram import NgramModel lm = NgramModel(3, brown.words(categories='news')) 这在Brown Corpus上使用了很好的图林概率分布，但是我正在一些大型数据集（例如1b单词数据集）上寻找精心设计的模型。我可以真正相信一般领域的结果（不仅是新闻）

11 python  nlp  language-model  r  statistics  linear-regression  machine-learning  classification  random-forest  xgboost  python  sampling  data-mining  orange  predictive-modeling  recommender-system  statistics  dimensionality-reduction  pca  machine-learning  python  deep-learning  keras  reinforcement-learning  neural-network  image-classification  r  dplyr  deep-learning  keras  tensorflow  lstm  dropout  machine-learning  sampling  categorical-data  data-imputation  machine-learning  deep-learning  machine-learning-model  dropout  deep-network  pandas  data-cleaning  data-science-model  aggregation  python  neural-network  reinforcement-learning  policy-gradients  r  dataframe  dataset  statistics  prediction  forecasting  r  k-means  python  scikit-learn  labels  python  orange  cloud-computing  machine-learning  neural-network  deep-learning  rnn  recurrent-neural-net  logistic-regression  missing-data  deep-learning  autoencoder  apache-hadoop  time-series  data  preprocessing  classification  predictive-modeling  time-series  machine-learning  python  feature-selection  autoencoder  deep-learning  keras  tensorflow  lstm  word-embeddings  predictive-modeling  prediction  machine-learning-model  machine-learning  classification  binary  theory  machine-learning  neural-network  time-series  lstm  rnn  neural-network  deep-learning  keras  tensorflow  convnet  computer-vision 

我目前正在尝试在大型csv文件（> 70GB，超过6000万行）上训练模型。为此，我正在使用tf.contrib.learn.read_batch_examples。我正在努力了解此函数实际上是如何读取数据的。如果我使用的批大小为例如50.000，它会读取文件的前50.000行吗？如果我想遍历整个文件（1个纪元），是否必须对estimator.fit方法使用num_rows / batch_size = 1.200的步数？ 这是我当前正在使用的输入函数： def input_fn(file_names, batch_size): # Read csv files and create examples dict examples_dict = read_csv_examples(file_names, batch_size) # Continuous features feature_cols = {k: tf.string_to_number(examples_dict[k], out_type=tf.float32) for k in CONTINUOUS_COLUMNS} # Categorical features feature_cols.update({ k: tf.SparseTensor( indices=[[i, 0] for i in range(examples_dict[k].get_shape()[0])], values=examples_dict[k], shape=[int(examples_dict[k].get_shape()[0]), 1]) for …

11 python  tensorflow 

我正在使用tensorflow创建一个简单的神经网络，并收集了我自己的数据，但是，它不配合使用：PI遇到了一个错误，我无法解决或无法找到解决方法，我希望您能提供帮助。 错误消息： TypeError：2861.6152的获取参数2861.6152的类型无效，必须为字符串或Tensor。（无法将float32转换为张量或操作。） 错误是指我的代码中的以下行： _, cost = tf_session.run([optimizer, cost], feed_dict = {champion_data: batch_input, item_data: batch_output}) 我已经弄清楚，当我在代码中注释掉以下行时，不会发生该错误： prediction = neural_network_model(champion_data) cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(prediction, item_data)) optimizer = tf.train.AdamOptimizer().minimize(cost) _, cost = tf_session.run([optimizer, cost], feed_dict = {champion_data: batch_input, item_data: batch_output}) 因此，这些行之一在某处获得的外观与预期的外观并不完全相同。我已经尝试了显而易见的方法（将np.array（）从batch_input和batch_output中删除，或将其替换为list（）），但这并不能解决问题。我目前的假设是Neuro_network_model（champion_data）的输出某种程度上具有错误的形状或类型，但是我不确定如何进行测试或解决（如果确实如此）。 完整的代码可以在这里找到：https : //gist.github.com/HasseIona/4bcaf9f95ae828e056d5210a2ea07f88 编辑：我已经验证了输入到neuro_network_model的冠军数据，预测和成本都是张量。我一直在尝试使用以下假设解决问题：该问题某种程度上在于代码的feed_dict = {}部分，但到目前为止还没有到位

11 machine-learning  python  neural-network  tensorflow 

我尝试根据以下方法在Keras（Tensorflow后端）中定义自定义指标功能（F1-Score）： def f1_score(tags, predicted): tags = set(tags) predicted = set(predicted) tp = len(tags & predicted) fp = len(predicted) - tp fn = len(tags) - tp if tp>0: precision=float(tp)/(tp+fp) recall=float(tp)/(tp+fn) return 2*((precision*recall)/(precision+recall)) else: return 0 到目前为止，还不错，但是当我尝试将其应用于模型编译时： model1.compile(loss="binary_crossentropy", optimizer=Adam(), metrics=[f1_score]) 它给出了错误： TypeError Traceback (most recent call last) <ipython-input-85-4eca4def003f> in <module>() 5 model1.add(Dense(output_dim=10, …

11 tensorflow  keras  evaluation 

我正在使用Keras的 LSTM（使用Theano背景）来开发Seq2Seq模型，并且我想并行化这些过程，因为即使很少的MB数据也需要数小时的训练。 显然，GPU在并行化方面要比CPU好得多。目前，我只能使用CPU。我可以访问16个CPU（每个内核2个线程X每个插槽4个内核X 2个插槽） 从Theano 的多核支持文档中，我设法使用了单个套接字的所有四个核。因此，基本上，CPU使用率为400％，使用了4个CPU，其余12个CPU仍未使用。我也如何利用它们。如果可行，也可以使用Tensorflow代替Theano背景。

11 tensorflow  keras  theano  parallel 

我是ML和TensorFlow的新手（大约几个小时前开始），我正尝试使用它来预测时间序列中的下几个数据点。我正在接受输入，并使用它来执行此操作： /----------- x ------------\ .-------------------------------. | 0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | '-------------------------------' \----------- y ------------/ 我以为我在做的是将x用作输入数据，将y用作该输入的期望输出，因此，给定0-6时，我可以得到1-7（尤其是7）。但是，当我使用x作为输入运行图时，得到的预测看起来更像x而不是y。 这是代码（基于本文和本文）： import tensorflow as tf import numpy as np import matplotlib.pyplot as plot import pandas as pd import csv def load_data_points(filename): print("Opening CSV …

10 machine-learning  python  time-series  tensorflow  rnn