转自：https://blog.csdn.net/u012436149/article/details/78291545对于tensorflow全局变量和局部变量关系可见：https://blog.csdn.net/shwan_ma/article/details/84852843原文：https://www.cnblogs.com/suanhj/p/12310729.html
1、def add_layer()添加神经网络层： import tensorflow as tfdef add_layer( inputs, in_size, out_size ,activation_function=None) :#weight初始化时生成一个随机变量矩阵比0矩阵效果要好Weights = tf.Variable( tf.random_normal ( [in_size, out_size]))#biases初始值最好也不要都为0，则biases值全部等于0.1biases = tf.Variable( tf.zeros([1,out_size]) + 0.1) #相当于Y_predictWx_plus_b = tf.matmul ( inputs,Weights ) ...
以MNIST的sequential模型为base-line，通过读取自己的数据，训练模型并存储模型，最后达到绘图实物的运用。自制数据集，解决本领域应用观察数据结构给x_train、y_train、x_test、y_test赋值def generateds(图片路径,标签文件)：def generateds(path, txt):f = open(txt, ‘r‘) # 以只读形式打开txt文件contents = f.readlines() # 读取文件中所有行f.close() # 关闭txt文件x, y_ = [], [] # 建立空列表for content in content...
TensorFlow学习笔记 一、常量表示import tensorflow as tf m1=tf.constant([[3,3]]) m2=tf.constant([[2],[3]]) product=tf.matmul(m1,m2) print(product) sess=tf.Session() result=sess.run(product) print(result) sess.close()with tf.Session() as sess:result=sess.run(product)print(result) 输出结果：[[15]]二、变量import tensorflow as tf x=tf.Variable([1,2]) #Variable表示变量 a=tf.constant([3,3]) #constant表示常...
前面已经使用TensorFlow2的原生代码搭建神经网络，接下来将使用keras搭建神经网络，并改写鸢尾花分类问题的代码，将原本100多行的代码用不到20行代码实现。用TensorFlow API：tf.keras搭建网络使用Sequential六步法：import，相关模块train, test，指定训练集的输入特征，和训练集的标签model = tf.keras.models.Sequential，搭建网络结构,（顺序神经网络）model.compile，配置训练方法model.fit，执行训练model.summary，打印出网...
tensorflow学习笔记(3)前置数学知识首先是神经元的模型接下来是激励函数神经网络的复杂度计算层数：隐藏层+输出层总参数=总的w+b下图为2层如下图w为3*4+4个 b为4*2+2接下来是损失函数主流的有均分误差，交叉熵，以及自定义这里贴上课程里面的代码# -*- coding: utf-8 -*-""" Created on Sat May 26 18:42:08 2018@author: Administrator """import tensorflow as tf import numpy as np BATCH_SIZE=8 seed=23455#基于seed产生随机...
2014年，牛津大学计算机视觉组（Visual Geometry Group）和 Google DeepMind 公司的研究员一起研发了新的深度卷积神经网络：VGGNet ，并取得了ILSVRC2014比赛分类项目的第二名（第一名是GoogLeNet，也是同年提出的）和定位项目的第一名。 VGGNet探索了卷积神经网络的深度与其性能直接的关系，通过反复堆叠 3*3 的小型卷积核和 2*2 的最大池化层，VGGNet成功的构筑了16~19层深的卷积神经网络。VGGNet相比之前的 state-of-the-art...
graph即tf.Graph()，session即tf.Session()，很多人经常将两者混淆，其实二者完全不是同一个东西。graph定义了计算方式，是一些加减乘除等运算的组合，类似于一个函数。它本身不会进行任何计算，也不保存任何中间计算结果。session用来运行一个graph，或者运行graph的一部分。它类似于一个执行者，给graph灌入输入数据，得到输出，并保存中间的计算结果。同时它也给graph分配计算资源（如内存、显卡等）。TensorFlow是一种符号式编...
TensorBoard简介Tensorflow发布包中提供了TensorBoard，用于展示Tensorflow任务在计算过程中的Graph、定量指标图以及附加数据。大致的效果如下所示， TensorBoard工作机制TensorBoard 通过读取 TensorFlow 的事件文件来运行。TensorFlow 的事件文件包括了你会在 TensorFlow 运行中涉及到的主要数据。关于TensorBoard的详细介绍请参考TensorBoard:可视化学习。下面做个简单介绍。Tensorflow的API中提供了一种叫做Summary的操作，用于...
TensorFlow2.0入门学习笔记(8)——欠拟合与过拟合(正则化)欠拟合与过拟合欠拟合：模型不能有效拟合数据集对现有数据集学习的不够彻底过拟合：模型对训练集拟合的太好，而缺失了泛化力欠拟合的解决方法： 增加输入特征项 增加网络参数 减少正则化参数过拟合的解决方法： 数据清洗 增大训练集 采用正则化 增大正则化参数正则化缓解过拟合正则化在损失函数中引入模型复杂度指标，利用给W加权值，弱化了训练 数据的噪声（一般不正则化b...
#学习率设为1 import tensorflow as tf training_steps=10 learning_rate=1x=tf.Variable(tf.constant(5,dtype=tf.float32),name='x') y=tf.square(x)train_op=tf.train.GradientDescentOptimizer(learning_rate).minimize(y)with tf.Session() as sess:init_op=tf.global_variables_initializer()sess.run(init_op)for i in range(training_steps):sess.run(train_op)x_value=sess.run(x)print("After %s iters:x%s is %f."%(i+1,...
根据前面的基础知识，可以开始第一个神经网络的搭建，主要学习的资料西安科技大学：神经网络与深度学习——TensorFlow2.0实战，北京大学：人工智能实践Tensorflow笔记 TensorFlow2.0入门学习笔记(5)——构建第一个神经网络，鸢尾花分类问题（附源码） 1.问题背景 问题描述人们通过经验总结出的规律：通过测量鸢尾花的花萼长、花萼宽、花瓣长、花瓣宽，可以得出鸢尾花的类别。（如：花萼长>花萼宽 且 花瓣长/花瓣宽>2 则为杂色鸢尾花...
TensorFlow实现Softmax Regression(回归)识别手写数字。MNIST(Mixed National Institute of Standards and Technology database)，简单机器视觉数据集，28X28像素手写数字，只有灰度值信息，空白部分为0,笔迹根据颜色深浅取[0, 1], 784维，丢弃二维空间信息，目标分0~9共10类。数据加载，data.read_data_sets, 55000个样本，测试集10000样本，验证集5000样本。样本标注信息，label，10维向量，10种类one-hot编码。训练集训练模型，...
一、环境配置 win10系统，显卡GeForce GTX 960M； TensorFlow-gpu 1.13.0-rc2，CUDA 10.0，Cudnn 7.4.2； python 3.6 Tensorflow-gpu是在windows PowerShell里用pip安装的，同时安装一些必要的库：cython、easydict、matplotlib、python-opencv等，可直接使用pip安装或者下载相应的.whl离线文件安装。 Faster RCNN下载 下载地址https://github.com/dBeker/Faster-RCNN-TensorFlow-Python3.5 下载完成后，项目的根目录为：Faster-RC...
梯度和自动微分 官网 自动微分和梯度带 | TensorFlow Core1. Gradient tapes tf.GradientTape API可以进行自动微分，根据某个函数的输入变量来计算它的导数。它会将上下文的变量操作都记录在tape上，然后用反向微分法来计算这个函数的导数。 \(y=x^2\)的标量例子 x = tf.Variable(3.0)with tf.GradientTape() as tape:y = x**2# dy = 2x * dx dy_dx = tape.gradient(y, x) dy_dx.numpy()# ==>6.0使用tensor的例子，tape.gradient方...