【Python自动化爬取App数据】教程文章相关的互联网学习教程文章

python – Tensorflow:有效地将数据移动/放入GPU【代码】

所以我正在阅读有关从CPU移动数据的更多信息 – > Tensorflow中的GPU,我看到feed_dict仍然很慢:https://github.com/tensorflow/tensorflow/issues/2919 我看到的将Python变量“移动”到GPU的直接选项是:#1. Tensorflow constant a = tf.constant(data, name='a')#2. Tensorflow Variable b = tf.Variable(data, name='b')#3. Tensorflow placeholder c = tf.placeholder(dtype=dtype, shape=[x,y,z ...], name='c')选项#1和#2对于...

python – Tensorflow“知道”何时不将数据放入GPU中?【代码】

我尝试使用tensorboard和ten??sorflow,我做了这个设置:rand = tf.placeholder(dtype=tf.float32) # this will be visualised in tensorboard later on tf.summary.image('random_noise_visualisation', rand,max_outputs=5) merged_summary_op = tf.summary.merge_all() # to me this seems like a helper to # merge all tensorboard related operations然后我评估我的merged_summary_op并为它提供一个非常大的数组,大小约为...

python – tensorflow的AdamOptimizer和GradientDescentOptimizer无法适应简单的数据【代码】

类似的问题:Here 我正在尝试TensorFlow.我生成了可以线性分离的简单数据,并试图将线性方程拟合到它.这是代码.np.random.seed(2010) n = 300 x_data = np.random.random([n, 2]).tolist() y_data = [[1., 0.] if v[0]> 0.5 else [0., 1.] for v in x_data]x = tf.placeholder(tf.float32, [None, 2]) W = tf.Variable(tf.zeros([2, 2])) b = tf.Variable(tf.zeros([2])) y = tf.sigmoid(tf.matmul(x , W) + b)y_ = tf.placeholder...

python – 使用完整数据集进行渐变下降时,TensorFlow权重会增加【代码】

我写了一篇文章深入解释神经网络如何从头开始工作. 为了说明博客文章,我在python using numpy编写了神经网络,并使用TensorFlow编写了一个版本.我在Github上传了代码来说明这个问题,但这不是一个干净的版本. 该网络的目标是根据其三个特征(公里,燃料类型,年龄)预测汽车的价格,这是我从头开始创建的玩具示例. 我从leboncoin.fr检索数据,我的数据集由大约9k辆车组成(仅限BMW系列1).我将数据标准化,使价格介于[0,1]之间,燃料类型采用二...

python – 从谷歌ml-engine(tensorflow)读取桶中的数据【代码】

我在从Google托管的存储桶中读取数据时遇到问题.我有一个桶,包含我需要访问的~1000个文件,保存在(例如) GS://我的桶/数据 使用命令行或其他Google Python客户端中的gsutil,我可以访问存储桶中的数据,但默认情况下,google-cloud-ml-engine不支持导入这些API. 我需要一种方法来访问数据和文件的名称,使用默认的python库(即os)或使用tensorflow.我知道tensorflow在某个地方内置了这个功能,我很难找到 理想情况下,我正在寻找一个命令...

python – 批量培训但是在Tensorflow中测试单个数据项?【代码】

我已经训练了一个批量大小为10的卷积神经网络.但是在测试时,我想分别预测每个数据集的分类而不是分批预测,这给出了错误:Assign requires shapes of both tensors to match. lhs shape= [1,3] rhs shape= [10,3]我理解10指的是batch_size,3指的是我分类的类数. 我们不能使用批次进行培训并单独测试吗? 更新: 培训阶段:batch_size=10 classes=3 #vlimit is some constant : same for training and testing phase X = tf.placehol...

python – 如何在tensorflow中获取张量的数据类型?【代码】

哪个函数用于获取python中tensorflow中张量的数据类型?我需要根据不同的张量定义动态数据类型.解决方法:您可以使用x.dtype获取类型,如下所示:import tensorflow as tf x=tf.constant([1,2]) x.dtype这会打印tf.int32

python – TensorFlow:如何处理图像分割中的空白标记数据?

我想知道如何使用TensorFlow处理图像分割中未标记的图像部分.例如,我的输入是高度*宽度*通道的图像.标签尺寸高度*宽度太大,每个像素都有一个标签. 图像的某些部分是注释的,其他部分则没有.我希望这些部分对梯度计算没有任何影响.此外,我对网络预测这个“无效”标签不感兴趣. 这有标签或功能吗?目前我正在使用tf.nn.sparse_softmax_cross_entropy_with_logits.解决方法:我不是100%熟悉TF.但是,您是否考虑过使用损失的权重参数?看...

python – 转换TensorFlow教程以使用我自己的数据【代码】

这是我上一期问题Converting from Pandas dataframe to TensorFlow tensor object的后续内容 我现在正在进行下一步,需要更多帮助.我正在尝试替换这行代码batch = mnist.train.next_batch(100)替换我自己的数据.我在StackOverflow上找到了这个答案:Where does next_batch in the TensorFlow tutorial batch_xs, batch_ys = mnist.train.next_batch(100) come from?但是我不明白: 1)为什么.next_batch()不适用于我的张量.我是否错误...

python – 将一个队列连接到tensorflow中的numpy数组,以获取数据而不是文件?【代码】

我已经阅读了CNN Tutorial on the TensorFlow,我正在尝试为我的项目使用相同的模型.现在的问题是数据读取.我有大约25000张图像用于培训,大约5000张用于测试和验证.文件是png格式,我可以读取它们并将它们转换为numpy.ndarray. 教程中的CNN示例使用队列从提供的文件列表中获取记录.我试图通过将我的图像重塑为一维数组并在其前面附加标签值来创建我自己的二进制文件.所以我的数据看起来像这样[[1,12,34,24,53,...,105,234,102],[12,1...

python – 从TensorFlow对象中检索数据 – 来自correct_prediction的布尔值列表

我正在讨论MNIST初学者教程(http://www.tensorflow.org/tutorials/mnist/beginners/index.html),并尝试从correct_prediction张量对象中获取准确预测值的布尔列表.我发现这令人困惑. 根据教程correct_prediction = tf.equal(tf.argmax(y,1),tf.argmax(y_,1))支持给我们一个布尔列表:That gives us a list of booleans. To determine what fraction arecorrect, we cast to floating point numbers and then take the mean. Forexam...

python – 使用我自己的数据的Tensorflow错误【代码】

我一直在玩Tensorflow库做教程.现在我想玩我自己的数据,但我失败了.这可能是一个noob问题,但我无法弄清楚. 我正在使用这个例子:https://github.com/aymericdamien/TensorFlow-Examples/blob/master/examples/3%20-%20Neural%20Networks/convolutional_network.py 我想使用我自己的图像,将我的图像转换为tensorflow使用我正在使用:https://github.com/HamedMP/ImageFlow/blob/master/ImageFlow.py 现在我更改示例中的参数:n_inpu...

Hadoop之使用python实现数据集合间join操作

hadoop之steaming介绍 hadoop有个工具叫做steaming,能够支持python、shell、C++、PHP等其他任何支持标准输入stdin及标准输出stdout的语言,其运行原理可以通过和标准java的map-reduce程序对比来说明: 使用原生java语言实现Map-reduce程序 hadoop准备好数据hadoop之steaming介绍 hadoop有个工具叫做steaming,能够支持python、shell、C++、PHP等其他任何支持标准输入stdin及标准输出stdout的语言,其运行原理可以通过和标准java的...

如何使用python将数据从hadoop保存到数据库【代码】

我正在使用hadoop处理xml文件,所以我已经在python中编写了mapper文件,reducer文件. 假设需要处理的输入是test.xml<report><report-name name="ALL_TIME_KEYWORDS_PERFORMANCE_REPORT"/><date-range date="All Time"/><table><columns><column name="campaignID" display="Campaign ID"/><column name="adGroupID" display="Ad group ID"/></columns><row campaignID="79057390" adGroupID="3451305670"/><row campaignID="79057390...

我正在使用Hadoop通过python进行数据处理,应使用哪种文件格式?

我正在使用Hadoop通过python进行数据处理,应使用哪种文件格式? 我的项目中包含大量文本页面. 每个文本文件都有一些头信息,在处理过程中我需要保留这些信息.但是,我不希望标头干扰聚类算法. 我在Hadoop上使用python(或者是否有更适合的子包?) 我应该如何格式化文本文件,并将这些文本文件存储在Hadoop中进行处理?解决方法:1)文件 如果使用Hadoop Streaming,则必须使用基于行的文本文件,直到第一个选项卡的数据都作为键传递给映射器...

自动化 - 相关标签