前面已经使用TensorFlow2的原生代码搭建神经网络，接下来将使用keras搭建神经网络，并改写鸢尾花分类问题的代码，将原本100多行的代码用不到20行代码实现。用TensorFlow API：tf.keras搭建网络使用Sequential六步法：import，相关模块train, test，指定训练集的输入特征，和训练集的标签model = tf.keras.models.Sequential，搭建网络结构,（顺序神经网络）model.compile，配置训练方法model.fit，执行训练model.summary，打印出网...
竞争神经网络学习竞争型神经网络是基于无监督学习（Unsupervised learning）方法的神经网络的一种重要类型，它经常作为基本的网络形式，构成其它一些具有自组织能力的网络，如自组织映射网络（SOM）、自适应共振理论网络、学习向量量化网络等。生物神经网络存在一种侧抑制的现象，即一个神经细胞兴奋后，通过它的分支会对周围其他神经细脑产生抑制，这种抑制使神经细胞之间出现竞争：在开始阶段，各神经元对相同的输入具有相同的响...
一、卷积卷积神经网络(Convolutional Neural Networks)是一种在空间上共享参数的神经网络。使用数层卷积，而不是数层的矩阵相乘。在图像的处理过程中，每一张图片都可以看成一张“薄饼”，其中包括了图片的高度、宽度和深度（即颜色，用RGB表示）。在不改变权重的情况下，把这个上方具有k个输出的小神经网络对应的小块滑遍整个图像，可以得到一个宽度、高度不同，而且深度也不同的新图像。卷积时有很多种填充图像的方法，以下主要介...
我们在计算模型w的转置乘上x的时候，往往需要把w和x分别进行向量化然后运算，因为这样会使我们的计算机得到结果的时间更快，而且这种方法不管是在CPU还是在GPU上都是成立的，首先我们来看看代码：import numpy as np
import time
a=np.random.rand(1000000)
b=np.random.rand(1000000)
toc=time.time()
c=np.dot(a,b)
tic=time.time()
print("向量化之后计算的时间为："+str(1000*(tic-toc))+"ms")
c=0
tic=time.time()
for i in r...
具体原理网址：http://wenku.baidu.com/link?url=zSDn1fRKXlfafc_tbofxw1mTaY0LgtH4GWHqs5rl8w2l5I4GF35PmiO43Cnz3YeFrrkGsXgnFmqoKGGaCrylnBgx4cZC3vymiRYvC4d3DF3自组织特征映射神经网络（Self-Organizing Feature Map。也称Kohonen映射），简称为SMO网络，主要用于解决模式识别类的问题。SMO网络属于无监督学习算法，与之前的Kmeans算法类似。所不同的是，SMO网络不需要预先提供聚类的数量，类别的数量是由网络自动识别出来的。...
转自 http://blog.csdn.net/xingzhedai/article/details/53144126更多参考：http://blog.csdn.net/mafeiyu80/article/details/51446558http://blog.csdn.net/caimouse/article/details/70225998http://kubicode.me/2017/05/15/Deep%20Learning/Understanding-about-RNN/RNN(Recurrent Neuron Network)是一种对序列数据建模的神经网络。继Bengio提出基于神经网络的概率语言模型并获得成功之后，Mikolov于2010年提出利用RNN建模语言模...
1 from keras.datasets import mnist2 from keras.utils import to_categorical3 4 #1. 获取数据5 (train_images, train_labels), (test_images, test_labels) = mnist.load_data()6 7 #2. 处理数据8 train_images = train_images.reshape((60000, 28, 28, 1))9 train_images = train_images.astype(float32) / 255
10
11 test_images = test_images.reshape((10000, 28, 28, 1))
12 test_images = test_images.astype(float32) /...
http://www.ai-start.com/dl2017/html/lesson1-week2.html神经网络的编程基础(Basics of Neural Network programming)
二分类(Binary Classification)
我们来看看一张图片在计算机中是如何表示的，为了保存一张图片，需要保存三个矩阵，它们分别对应图片中的红、绿、蓝三种颜色通道，如果你的图片大小为64x64像素，那么你就有三个规模为64x64的矩阵，分别对应图片中红、绿、蓝三种像素的强度值。为了便于表示，这里我画了三个很小的...
6.3循环神经网络的高级用法
在这一节中，我们将回顾三种先进技术来提高递归神经网络的性能和泛化能力。在本节结束时，您将了解关于使用Keras的递归网络所知道的大部分内容。我们将展示一个天气预报问题的所有三个概念，在那里我们可以访问来自安装在建筑物屋顶上的传感器的数据点的时间，例如温度、气压和湿度，我们用来预测在收集最后一个数据点后24小时的温度。这是一个相当具有挑战性的问题，举例说明了在使用时间序列时遇到的许...
原书地址：https://zh-v2.d2l.ai/chapter_preliminaries/lookup-api.html
预备知识
背景：所有的机器学习方法都涉及从数据中提取信息。因此，我们首先将学习一些实用技能，包括存储、操作和预处理数据。
机器学习通常需要处理大型数据集。我们可以将数据集视为表，其中表的行对应于样本，列对应于属性。将重点放在矩阵运算的基本原理及其实现上。
深度学习是关于优化的。我们有一个带有参数的模型，我们想要找到那些能拟合数据的最...
感知机—神经网络最基本的模型
感知机（perceptron）是二分类的线性分类模型，输入为实例的特征向量，输出为实例的类别（取1和0）。感知机对应于输入空间中将实例划分为两类的分离超平面。感知机旨在求出该超平面.其中，w0? 是一个偏差值，这个条件是必要的，如果没有这个条件，切平面会经过原点。我们需要这个偏差值控制决策平面到原点的距离。
下图中感知机实现了与门和或门的功能为了求得合适的超平面，我们导入了基于误分类的损...
图游走类算法的目标：学习出图中每一个节点的一维表示，即node embeddings：
1.得到node embeddings之后，可以进行下游任务（节点分类等）
2.通过node embeddings可以学习节点和邻居的关系，更好的表示图结构与图特征的信息
那么，如何得到node embeddings呢？
答案是：图游走类算法，下图简单的说明了什么是图游走（图中展示的游走序列并不是全部），通过图表示学习使用图上的多次游走得到的序列，从而得到节点的一维表示（用于下...
#学习率设为1
import tensorflow as tf training_steps=10
learning_rate=1x=tf.Variable(tf.constant(5,dtype=tf.float32),name='x')
y=tf.square(x)train_op=tf.train.GradientDescentOptimizer(learning_rate).minimize(y)with tf.Session() as sess:init_op=tf.global_variables_initializer()sess.run(init_op)for i in range(training_steps):sess.run(train_op)x_value=sess.run(x)print("After %s iters:x%s is %f."%(i+1,...
神经网络：正向传播，反向传播 重构单节点神经网络代码： #引入类库 from numpy import array,exp,random,dot
def fp(input):
#加载数据 X = array([[0,0,1],[1,1,1],[1,0,1],[0,1,1]]) y = array([[0,1,1,0]]).T #设置随机权重 random.seed(1) weights = 2 * random.random((3,1)) - 1 #循环 for it in range(10000): #利用点乘一次性计算出四个z来 z = dot(X,weights) #使用sigmoid函数，计算最初的output output = 1/(1+exp(-z)...
根据前面的基础知识，可以开始第一个神经网络的搭建，主要学习的资料西安科技大学：神经网络与深度学习——TensorFlow2.0实战，北京大学：人工智能实践Tensorflow笔记
TensorFlow2.0入门学习笔记(5)——构建第一个神经网络，鸢尾花分类问题（附源码）
1.问题背景
问题描述人们通过经验总结出的规律：通过测量鸢尾花的花萼长、花萼宽、花瓣长、花瓣宽，可以得出鸢尾花的类别。（如：花萼长>花萼宽 且 花瓣长/花瓣宽>2 则为杂色鸢尾花...
