原文链接 序 读书期间对于深度学习也有涉及，不过只是皮毛，在这个数据和算法的时代，也需要更加贴近算法。于是从一名工程师角度出发，希望通过几篇文章，将深度学习基础记录下来，同时也是对于自己学习的总结和积累。总体思路是ANN－CNN－DNN，中间想起来有什么忘记的，也会加番。神经网络概述这是一张典型的人工神经网络的图，图中的节点称为神经元，图共分为三层，第一层为输入层，第二层为隐藏层，第三层为输出层。输入层接受外...
2.1、二分分类 在计算机中保存一张图片，需要保存三个独立矩阵，分别对应图片中的红、绿、蓝三个颜色通道。如果输入图片是64x64像素的，就有三个64x64的矩阵，分别对应图片中的红、绿、蓝三种像素的亮度。要把这些像素亮度值（按红、绿、蓝顺序）放进一个特征向量x中，如果图片是64x64的，那么向量x的总维度是nx=64x64x3=12288。 logistic回归是一个用于二分分类的算法。在二分分类问题中...
循环神经网络的构造假设\(\boldsymbol{X}_t \in \mathbb{R}^{n \times d}\)是时间步\(t\)的小批量输入，\(\boldsymbol{H}_t \in \mathbb{R}^{n \times h}\)是该时间步的隐藏变量，则：\[ \boldsymbol{H}_t = \phi(\boldsymbol{X}_t \boldsymbol{W}_{xh} + \boldsymbol{H}_{t-1} \boldsymbol{W}_{hh} + \boldsymbol{b}_h). \]其中，\(\boldsymbol{W}_{xh} \in \mathbb{R}^{d \times h}\)，\(\boldsymbol{W}_{hh} \in \mathbb{R}^{h...
神经网络基础一、生物神经元与神经网络相关的部分1.每个神经元都是一个多输入单输出的信息处理单元；2.神经元具有空间整合和时间整合特性；3.神经元输入分兴奋性输入和抑制性输入两种类型；4.神经元具有阈值特性。二、M-P神经元为什么需要激活函数从神经元角度：神经元继续传递信息、产生新连接的概率（超过阈值被激活，但不一定传递）从数学的角度：没有激活函数相当于矩阵连乘多层和一层一样????????????2.只能拟合线性函数常见激...
卷积神经网络基础二维互相关运算二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel）数组，输出也是一个二维数组，其中核数组通常称为卷积核或过滤器（filter）。卷积核的尺寸通常小于输入数组，卷积核在输入数组上滑动，在每个位置上，卷积核与该位置处的输入子数组按元素相乘并求和，得到输出数组中相应位置的元素。图1展示了一个互相关运算的例子，阴影部分分别是输入的第一个计算区域、核数组...
图神经网络基础 最近在学习GCN，看到很多公式都不太懂，和以前看CNN完全不一样，在这里整理一下一些看到的公式和推导，希望能够帮助理解。 首先，为什么要用GCN呢，因为在面对非欧式空间的数据处理时，发现CNN并不能保证平移不变性，因此图网络结构一直被提出用来处理非欧式空间数据；另一方面，CNN的局限性很严重，比如 （1）take all pixels into consideration regardless of importance，CNN处理所有的像素点都相同，没有考虑到...
https://blog.csdn.net/weixin_38206214/article/details/81143894 在深度学习的路上，从头开始了解一下各项技术。本人是DL小白，连续记录我自己看的一些东西，大家可以互相交流。本文参考：本文参考吴恩达老师的Coursera深度学习课程，很棒的课，推荐 本文默认你已经大致了解深度学习的简单概念，如果需要更简单的例子，可以参考吴恩达老师的入门课程：http://study.163.com/courses-search?keyword=%E5%90%B4%E6%81%A9%E8%BE%BE#...