更新：文章迁移到了这里。http://lanbing510.info/2014/11/07/Neural-Network.html，有对应的PPT链接。
注：整理自向世明老师的PPT
看不到图片的同学能够直接打开链接：https://app.yinxiang.com/shard/s31/sh/61392246-7de4-40da-b2fb-ccfd4f087242/259205da4220fae3内容提要1 发展历史
2 前馈网络（单层感知器，多层感知器。径向基函数网络RBF）
3 反馈网络（Hopfield网络。联想存储网络，SOM。Boltzman及受限的玻尔兹曼机RBM，D...
原文见http://blog.csdn.net/abcjennifer/article/details/7758797，添加了一些自己的理解本栏目（Machine learning）包括单参数的线性回归、多参数的线性回归、Octave Tutorial、Logistic Regression、Regularization、神经网络、机器学习系统设计、SVM（Support Vector Machines 支持向量机）、聚类、降维、异常检测、大规模机器学习等章节。所有内容均来自Standford公开课machinelearning中Andrew老师的讲解。（https://class.c...
具体原理网址：http://wenku.baidu.com/link?url=zSDn1fRKXlfafc_tbofxw1mTaY0LgtH4GWHqs5rl8w2l5I4GF35PmiO43Cnz3YeFrrkGsXgnFmqoKGGaCrylnBgx4cZC3vymiRYvC4d3DF3自组织特征映射神经网络（Self-Organizing Feature Map。也称Kohonen映射），简称为SMO网络，主要用于解决模式识别类的问题。SMO网络属于无监督学习算法，与之前的Kmeans算法类似。所不同的是，SMO网络不需要预先提供聚类的数量，类别的数量是由网络自动识别出来的。...
一、BP神经网络的概念 BP神经网络是一种多层的前馈神经网络，其基本的特点是：信号是前向传播的，而误差是反向传播的。详细来说。对于例如以下的仅仅含一个隐层的神经网络模型：(三层BP神经网络模型)BP神经网络的过程主要分为两个阶段。第一阶段是信号的前向传播，从输入层经过隐含层。最后到达输出层；第二阶段是误差的反向传播，从输出层到隐含层。最后到输入层，依次调节隐含层到输出层的权重和偏置，输入层到隐含层的权重和...
一个元素的输出能够部分地影响作用于该元素的输入，从而造成一个或多个围绕该系统进行信号传输的封闭路径时，则动态系统中存在反馈（feedback）。原文：http://blog.csdn.net/lxytsos/article/details/45176085
8.1非线性假设（1）无论线性回归还是逻辑回归当特征量太多时，计算的负荷会非常大。如50x50像素有2500特征，如果两两组合将会有25002/2个（接近300万个特征）。普通的线性回归和逻辑回归模型不能有效处理这么多特征，这时候需要用神经网络了。8.2神经元和大脑大脑的某一块可以经过学习，学会其他功能，比如某一块感受触觉，但是接受视觉训练之后，能够感受视觉。8.3模型表示1（1）神经元有树突和轴突，许多树突接受电信号，一个轴突...
python数据分析个人学习读书笔记-目录索引 19章卷积神经网络 本章介绍现阶段神经网络中非常火的模型——卷积神经网络，它在计算机视觉中有着非常不错的效果。不仅如此，卷积神经网络在非图像数据中也有着不错的表现，各项任务都有用武之地，可谓在机器学习领域遍地开花。那么什么是卷积呢？网络的核心就在于此，本章将带大家一步步揭开卷积神经网络的奥秘。 19.1卷积操作原理 卷积神经网络也是神经网络的一种，本质上来说都...
回归技术
回归算法是用于预测连续数值的机器学习技术。他们是有监督的学习任务，这意味着他们需要标记的训练示例。
案例：
根据尺寸，品牌和位置预测产品的适当价格根据商店位置，公共假日，星期几和最接近的竞争对手来预测每天的销售数量
以下是最常用的预测数值的算法的介绍：线性回归，决策树，神经网络和K最近邻
线性回归
线性回归尝试将直的超平面拟合到最接近所有数据点的数据集中。当数据集中的变量之间存在线性关系时，这是...
长文预警: 共22727字
注意：文末附有所有源码的地址
建议：收藏后找合适时间阅读。一、Net类的设计与神经网络初始化
闲言少叙，直接开始
既然是要用C++来实现，那么我们自然而然的想到设计一个神经网络类来表示神经网络，这里我称之为Net类。由于这个类名太过普遍，很有可能跟其他人写的程序冲突，所以我的所有程序都包含在namespace liu中，由此不难想到我姓刘。在之前的博客反向传播算法资源整理中，我列举了几个比较不错的资...
项目简介：
目标：识别全班61个人的人脸。
实现途径：卷积神经网络用全班采集的照片训练直接训练自己的模型（图片格式132*197，每人10张，8张加入训练集，1张validation，1张test）
调用keras.application中的base_model（xception、inception、resnet50、VGG16、VGG19）做特征提取，更换我们自己的全链接层。
把basemodel的顶层的卷积层和池化层放开+全链接层方法：用了第三种【不要放开太多层，否则提前用大量图片训练的模型就失...
在学习了机器学习的相关知识以后，我们知道其中的算法有很多种，比如回归算法、K近邻算法等等，这些都是需要大家掌握的算法，而神经网络算法是一个十分实用的算法，在这篇文章中我们就给大家介绍一下机器学习算法中的神经网络算法知识。
那么什么是神经网络算法呢？其实神经网络也称之为人工神经网络，简单就是ANN，而算法是80年代机器学习界非常流行的算法，不过在90年代中途衰落。现在，随着深度学习的发展，神经网络再次出现在大...
1. 关于非线性转化方程(non-linear transformation function)
? ? ?sigmoid函数(S 曲线)用来作为activation function:
? ? ?sigmoid函数是一个在生物学中常见的S型函数，也称为S型生长曲线。 在信息科学中，由于其单增以及反函数单增等性质，sigmoid函数常被用作神经网络的阈值函数，将变量映射到0,1之间。具有这种性质的S型函数统称为sigmoid函数。
? ? ??
? ? ?1.1 双曲函数(tanh)? ? ? ? 双曲函数（hyperbolic function）可借助...
bp神经网络
先来了解一下什么是神经网络一个神经网络包含：输入层（输入特征个数）、隐藏层（个数不限制）、输出层（类别）、权重（重要程度）、偏执/阈值（有偏执率）其中还要加上偏执，sgn是激活函数，它是为了防止结果值太大，把结果缩小到一定的范围内。这样得到的结果可能还不太准确，和真实值会有误差，于是我们用最小误差值倒推w，这个思想叫训练也叫bp神经网络BP（Back Propagation）网络是1986年由Rumelhart和McCelland为...
