前面已经使用TensorFlow2的原生代码搭建神经网络，接下来将使用keras搭建神经网络，并改写鸢尾花分类问题的代码，将原本100多行的代码用不到20行代码实现。用TensorFlow API：tf.keras搭建网络使用Sequential六步法：import，相关模块train, test，指定训练集的输入特征，和训练集的标签model = tf.keras.models.Sequential，搭建网络结构,（顺序神经网络）model.compile，配置训练方法model.fit，执行训练model.summary，打印出网...
tensorflow学习笔记(3)前置数学知识首先是神经元的模型接下来是激励函数神经网络的复杂度计算层数：隐藏层+输出层总参数=总的w+b下图为2层如下图w为3*4+4个 b为4*2+2接下来是损失函数主流的有均分误差，交叉熵，以及自定义这里贴上课程里面的代码# -*- coding: utf-8 -*-"""
Created on Sat May 26 18:42:08 2018@author: Administrator
"""import tensorflow as tf
import numpy as np
BATCH_SIZE=8
seed=23455#基于seed产生随机...
2014年，牛津大学计算机视觉组（Visual Geometry Group）和 Google DeepMind 公司的研究员一起研发了新的深度卷积神经网络：VGGNet ，并取得了ILSVRC2014比赛分类项目的第二名（第一名是GoogLeNet，也是同年提出的）和定位项目的第一名。 VGGNet探索了卷积神经网络的深度与其性能直接的关系，通过反复堆叠 3*3 的小型卷积核和 2*2 的最大池化层，VGGNet成功的构筑了16~19层深的卷积神经网络。VGGNet相比之前的 state-of-the-art...
graph即tf.Graph()，session即tf.Session()，很多人经常将两者混淆，其实二者完全不是同一个东西。graph定义了计算方式，是一些加减乘除等运算的组合，类似于一个函数。它本身不会进行任何计算，也不保存任何中间计算结果。session用来运行一个graph，或者运行graph的一部分。它类似于一个执行者，给graph灌入输入数据，得到输出，并保存中间的计算结果。同时它也给graph分配计算资源（如内存、显卡等）。TensorFlow是一种符号式编...
TensorBoard简介Tensorflow发布包中提供了TensorBoard，用于展示Tensorflow任务在计算过程中的Graph、定量指标图以及附加数据。大致的效果如下所示， TensorBoard工作机制TensorBoard 通过读取 TensorFlow 的事件文件来运行。TensorFlow 的事件文件包括了你会在 TensorFlow 运行中涉及到的主要数据。关于TensorBoard的详细介绍请参考TensorBoard:可视化学习。下面做个简单介绍。Tensorflow的API中提供了一种叫做Summary的操作，用于...
TensorFlow2.0入门学习笔记(8)——欠拟合与过拟合(正则化)欠拟合与过拟合欠拟合：模型不能有效拟合数据集对现有数据集学习的不够彻底过拟合：模型对训练集拟合的太好，而缺失了泛化力欠拟合的解决方法：
增加输入特征项
增加网络参数
减少正则化参数过拟合的解决方法：
数据清洗
增大训练集
采用正则化
增大正则化参数正则化缓解过拟合正则化在损失函数中引入模型复杂度指标，利用给W加权值，弱化了训练
数据的噪声（一般不正则化b...
#学习率设为1
import tensorflow as tf training_steps=10
learning_rate=1x=tf.Variable(tf.constant(5,dtype=tf.float32),name='x')
y=tf.square(x)train_op=tf.train.GradientDescentOptimizer(learning_rate).minimize(y)with tf.Session() as sess:init_op=tf.global_variables_initializer()sess.run(init_op)for i in range(training_steps):sess.run(train_op)x_value=sess.run(x)print("After %s iters:x%s is %f."%(i+1,...
根据前面的基础知识，可以开始第一个神经网络的搭建，主要学习的资料西安科技大学：神经网络与深度学习——TensorFlow2.0实战，北京大学：人工智能实践Tensorflow笔记
TensorFlow2.0入门学习笔记(5)——构建第一个神经网络，鸢尾花分类问题（附源码）
1.问题背景
问题描述人们通过经验总结出的规律：通过测量鸢尾花的花萼长、花萼宽、花瓣长、花瓣宽，可以得出鸢尾花的类别。（如：花萼长>花萼宽 且 花瓣长/花瓣宽>2 则为杂色鸢尾花...
TensorFlow实现Softmax Regression(回归)识别手写数字。MNIST(Mixed National Institute of Standards and Technology database)，简单机器视觉数据集，28X28像素手写数字，只有灰度值信息，空白部分为0,笔迹根据颜色深浅取[0, 1], 784维，丢弃二维空间信息，目标分0~9共10类。数据加载，data.read_data_sets, 55000个样本，测试集10000样本，验证集5000样本。样本标注信息，label，10维向量，10种类one-hot编码。训练集训练模型，...
一、环境配置
win10系统，显卡GeForce GTX 960M； TensorFlow-gpu 1.13.0-rc2，CUDA 10.0，Cudnn 7.4.2； python 3.6
Tensorflow-gpu是在windows PowerShell里用pip安装的，同时安装一些必要的库：cython、easydict、matplotlib、python-opencv等，可直接使用pip安装或者下载相应的.whl离线文件安装。
Faster RCNN下载
下载地址https://github.com/dBeker/Faster-RCNN-TensorFlow-Python3.5
下载完成后，项目的根目录为：Faster-RC...
3.1 初实计算图与张量 1.tensorflow程序中的计算过程可以表示为一个计算图，或有向图。 3.2 计算图-tensorflow的计算模型 1.在tensorflow1.x中使用计算图
import tensorflow as tf
a=tf.constant([1.0,2.0],name="a")
b=tf.constant([3.0,4.0],name="b")
result=a+b
print(a.graph is tf.get_default_graph())
print(b.graph is tf.get_default_graph())2.tensorflow会维护一个默认的计算图，并将定义的所有计算添加到默认的计算图...
Python的安装与使用
教程很多，Anaconda下载地址是(https://www.continuum.io/downloads/)，其中集成了Python3.6
若要单独下载PyCharm，还需单独下载python3.6
遇到的问题
安装完PyCharm后点击Create New Project，出现该种情况原因是没有下载python，pycharm只是一个编译器，重新下载好python后即可使用
梯度和自动微分
官网
自动微分和梯度带 | TensorFlow Core1. Gradient tapes
tf.GradientTape API可以进行自动微分，根据某个函数的输入变量来计算它的导数。它会将上下文的变量操作都记录在tape上，然后用反向微分法来计算这个函数的导数。
\(y=x^2\)的标量例子
x = tf.Variable(3.0)with tf.GradientTape() as tape:y = x**2# dy = 2x * dx
dy_dx = tape.gradient(y, x)
dy_dx.numpy()# ==>6.0使用tensor的例子，tape.gradient方...
绍深度学习后面的数学概念已经存在10多年，但是深度学习框架是最近几年才出来的。现在大量的框架在灵活性上和便于工业界使用上做了权衡，灵活性对于科研非常重要，但是对于工业界太慢了，但是换句话说，足够快，能够用于分布式的框架只适用于特别的网络结构，这对科研又不够灵活。这留给了使用者一个矛盾的境地：我们是否应该尝试用没有那么灵活的框架做科研，这样当应用于工业界的时候，我们不必再重新用另外一个框架复现代码；或...
训练神经网络模型之前，需要先获取训练数据集和测试数据集，本文介绍的获取数据集（get_data_train_test）的方法包括以下步骤： 1 在数据集文件夹中，不同类别图像分别放在以各自类别名称命名的文件夹中； 2 获取所有图像路径以及分类； 3 将分类转为字典格式； 4 将所有图像路径打乱； 5 将所有图像路径切分为训练部分和测试部分； 6 获取x部分 6.1 获取图像； 6.2 图像尺寸调整； 6.3 图像降维； 6.4 图像像素值取反； 6.5 图像像...
