监督学习 监督学习是最常用也是最成功的机器学习类型之一。如果想要根据给定输入预测某个结果，并且还有输入 / 输出对的示例时，都应该使用监督学习。这些输入 / 输出对构成了机器学习模型。我们的目标是对从未见过的新数据做出准确预测。监督学习通常需要人为来构建训练集，但之后的任务本来非常费力甚至无法完成，现在却可以自动完成，通常速度很快。 1、分类与回归 监督学习问题主要有两种，分别叫做分类（classification）与回...
非常感谢大家陪伴公众号的每一天每一夜。此次机器学习算法与自然语言处理公众号给大家争取了免费福利！联合电子工业出版社免费送给大家《机器学习算法原理与编程实现》一书！ 书籍推荐理由本书是机器学习原理和算法编码实现的基础性读物，内容分为两大主线：单个算法的原理讲解和机器学习理论的发展变迁。算法除包含传统的分类、聚类、预测等常用算法之外，还新增了深度学习、贝叶斯网、隐马尔科夫模型等内容。对于每个算法，均包括...
随着我对机器学习的了解的增加，机器学习算法的数量也在增加! 本文将介绍数据科学界常用的机器学习算法。请记住，我将比其他更多地详细阐述某些算法，因为如果我对每种算法进行了详尽的解释，那么本文将与本书一样长!我还将尝试尽量减少本文中的数学运算量，因为我知道这对于那些数学上不精通的人来说可能是令人生畏的。相反，我将尝试对每个功能进行简要概述，并指出一些关键功能。 考虑到这一点，我将首先介绍一些更基本的算法，...
机器学习十大经典算法-KNN（最近邻） 最近在学习机器学习，查阅了很多人的博客，受益颇多，因此自己也试着将过学的内容做一个总结，一方面可以提高自己对学习过的算法的认识，再者也希望能帮助到初学者，共勉。。。 1 K-近邻算法原理 K最近邻(kNN，k-NearestNeighbor)分类算法，见名思意： 找到最近的k个邻居（样本），在前k个样本中选择频率最高的类别作为预测类别，什么？怎么那么拗口，没图说个球球，下面举个例子，图解一下大家...
目录1. 线性回归算法1.1 线性回归简介1.2 误差项分析1.3 似然函数1.4 线性回归求解1.5常用评估方法2.逻辑回归2.1 Sigmoid函数 1. 线性回归算法 1.1 线性回归简介一个例子： 去银行贷款，银行给我贷款多少 银行需要你两个数据： 工资和年龄（两个特征值） 目标： 预测银行会贷多少钱给我(标签) 考虑： 工资和年龄都会影响最终银行贷款的结果，那么他们各自有多大的影响呢？工资(x1) 年龄(x2) 额度（y）4000 25 200008000 30 7000050...
近邻算法(KNN)属于有监督学习的聚类算法，他可以通过测量不同特征值之间的距离进行分类，一个样本在特征空间中的k个最相似的样本大多数属于某一个类别，则该样本也属于这个类别，算法中所选择的邻居都是正确分类的对象。KNN算法测距离依旧使用的是欧式距离。算法描述：计算测试数据与各个训练数据之间的距离；按照距离的递增关系进行排序；选取距离最小的K个点；确定前K个点所在的类别的出现频率；返回前K个点出现频率最高的类别作...
梯度下降算法在机器学习中的工作原理 作者|NIKIL_REDDY 编译|VK 来源|Analytics Vidhya 介绍 梯度下降算法是工业中最常用的机器学习算法之一。但这让很多新人感到困惑。 如果你刚刚接触机器学习，梯度下降背后的数学并不容易。在本文中，我的目的是帮助你了解梯度下降背后的直觉。我们将快速了解成本函数的作用，梯度下降的解释，如何选择学习参数。 什么是成本函数它是一个函数，用于衡量模型对任何给定数据的性能。成本函数将预测...
1. 梯度下降法（Gradient Descent） 梯度下降法是最早最简单，也是最为常用的最优化方法。梯度下降法实现简单，当目标函数是凸函数时，梯度下降法的解是全局最优解。一般情况下，其解不保证是全局最优解，梯度下降法的速度也未必是最快的。 梯度下降法的优化思想是用当前位置负梯度方向作为搜索方向，因为该方向为当前位置的最快下降方向，所以也被称为是”最速下降法“。最速下降法越接近目标值，步长越小，前进越慢。在机器学习中...
自动安装MySQL脚本 https://blog.csdn.net/weixin_33782386/article/details/92505501 java面试经验 https://www.cnblogs.com/xym4869/category/1177798.html 异或运算怎么算 https://jingyan.baidu.com/article/f54ae2fcc18c815f93b8492d.html Python reduce() 函数 https://www.runoob.com/python/python-func-reduce.html 深度学习基础——感知机 https://www.cnblogs.com/xym4869/p/11282469.html感知机原理（Perceptron） htt...
机器学习算法day02_KNN分类算法及应用 课程大纲KNN分类算法原理KNN概述KNN算法图示KNN算法要点KNN算法不足之处KNN分类算法Python实战KNN简单数据分类实践KNN实现手写数字识别KNN算法补充KNN算法中k值的选取类别判定如何选择合适的衡量距离训练样本/性能问题 课程目标： 1、理解KNN算法的核心思想 2、理解KNN算法的实现 3、掌握KNN算法的应用步骤：数据处理、建模、运算和结果判定 4、 1. kNN分类算法原理 1.1 概述 K最近邻（...
机器学习算法day02_贝叶斯分类算法及应用 课程大纲朴素贝叶斯算法原理Bayes算法概述Bayes算法思想Bayes算法要点朴素贝叶斯算法案例1需求Python实现朴素贝叶斯算法案例2需求Python实现 课程目标： 1、理解朴素贝叶斯算法的核心思想 2、理解朴素贝叶斯算法的代码实现 3、掌握朴素贝叶斯算法的应用步骤：数据处理、建模、运算和结果判定 4、 1. 朴素贝叶斯分类算法原理 1.1 概述 贝叶斯分类算法是一大类分类算法的总称 贝叶斯分...
机器学习算法day02_Kmeans聚类算法及应用 课程大纲Kmeans聚类算法原理Kmeans聚类算法概述Kmeans聚类算法图示Kmeans聚类算法要点Kmeans聚类算法案例需求用Numpy手动实现用Scikili机器学习算法库实现Kmeans聚类算法补充算法缺点改良思路 课程目标： 1、理解Kmeans聚类算法的核心思想 2、理解Kmeans聚类算法的代码实现 3、掌握Kmeans聚类算法的应用步骤：数据处理、建模、运算和结果判定 4、 1. Kmeans聚类算法原理 1.1 概述 K...
这个算法中文名为k均值聚类算法，首先我们在二维的特殊条件下讨论其实现的过程，方便大家理解。 第一步.随机生成质心 由于这是一个无监督学习的算法，因此我们首先在一个二维的坐标轴下随机给定一堆点，并随即给定两个质心，我们这个算法的目的就是将这一堆点根据它们自身的坐标特征分为两类，因此选取了两个质心，什么时候这一堆点能够根据这两个质心分为两堆就对了。如下图所示： 第二步.根据距离进行分类 红色和蓝色的点代表了我...
转：https://www.baidu.com/link?url=d3iK-zj5jeKsVZ94M7Oo6n9tth1Wn-9IkZUo-2Mpcsmc5ov_EUxzBq2kXzm-7I0L1k2wd3oHrHVBJ3-YDC1Iu8l5I98zv-qzixjzYh2BLu662rzKkHrao0xjINLY6Wlj&wd=&eqid=f5f07060001bc0c9000000035f4248d5数据库中的主键、索引和外键（数据分析岗经常问） 决策树ID3和C4.5的差别？各自优点？ Boost算法 CART（回归树用平方误差最小化准则，分类树用基尼指数最小化准则） GBDT与随机森林算法的原理以及区别。 优化算...
【机器学习】算法原理详细推导与实现(七):决策树算法 在之前的文章中，对于介绍的分类算法有逻辑回归算法和朴素贝叶斯算法，这类算法都是二分类的分类器，但是往往只实际问题中\(y\)不仅仅只有\(\{0,1\}\)，当出现一个新的类别\(y=2\)时，之前的分类器就不太适用，这里就要介绍一个叫做决策树的新算法，该算法对于多个目标的离散特征往往有比较好的分类效果，用以解决\(x\)是离散型的数据，这是判别模型，也是一个生成学习算法。 I...