本文，就像本系列的其他文章一样。旨在通过阅读原论文+手写代码的方式，自己先把算法搞明白，然后再教其他人。手写代码除了可以验证自己是否搞明白以外，我会对中间过程做图。这样，我可以通过图直观的验证算法是否正确。而这些图，又成为写文章时候的很好的素材。 什么是 Gaussian Mixture Model GMM，简单的说，真的就是几个Gaussian分布混合在一起。把这些Gaussian分布找出来的过程，就是GMM。一般来说，可以认为GMM是聚类算法，...
机器学习算法（二）: 朴素贝叶斯(Naive Bayes) 贝叶斯：计算条件概率 p(A,B)：表示事件A和事件B同时发生的概率。 p(B)：表示事件B发生的概率，叫做先验概率；p(A)：表示事件A发生的概率。 p(A|B)：表示当事件B发生的条件下，事件A发生的概率叫做后验概率。 p(B|A)：表示当事件A发生的条件下，事件B发生的概率。 在贝叶斯中对于离散特征 朴素贝叶斯：所有特征出现互相独立互不影响。每一特征同等重要。 朴素贝叶斯法 = 贝叶斯定理...
文章目录 1 导入1.1 基本概念1.2 spark.mlib和spark.ml 2 机器学习工作流(ML Pipelines)2.1 基本概念2.2 工作流的构建构建SparkSession对象引入要包含的包构建训练数据集定义Pipeline中的各个工作流阶段PipelineStage创建一个Pipeline构建测试数据预测1 导入 1.1 基本概念 MLlib是Spark的机器学习（Machine Learning）库，旨在简化机器学习的工程实践工作，并方便扩展到更大规模。MLlib由一些通用的学习算法和工具组成，包括分类、...
聚类算法评估假设没有外部标签数据，我们怎么评价不同聚类算法的优劣？非监督学习往往没有标注数据，这是模型，算法的设计直接影响最终的输出和模型的性能。为了评估不同的聚类算法，我们可以从簇下手。以中心定义的数据簇，这类数据集体倾向于球形分布，中心往往被定义为质心，即此数据簇所有点的平均值。集合中数据到中心的距离相比到其他簇中心的距离更近。以密度定义的数据簇，这类数据集合呈现和周围数据簇明显不同的密度，或...
K均值算法K均值聚类的核心目标是将给定的数据集划分成K个簇，并给出每个数据对应的簇中心点。数据预处理，包括但不限于归一化，离群点处理等随机选择K个簇中心，我们记为定义代价函数，令t=0,1,2,3...，进行迭代，重复直至J收敛此时，对于每个样本，将分配到距离最近的簇对于每个簇k，重新计算各个簇的中心K均值在迭代中，如果J没有达到最小值，那么首先重新计算当前簇的中心，调整每个样例所属的类别来让J的值减少，之后计算，调整...
机器学习算法（二）: 朴素贝叶斯(Naive Bayes) 1. 实验室介绍 1.1 实验环境 1. python3.7 2. numpy >= '1.16.4' 3. sklearn >= '0.23.1'1.2 朴素贝叶斯的介绍 朴素贝叶斯算法（Naive Bayes, NB) 是应用最为广泛的分类算法之一。它是基于贝叶斯定义和特征条件独立假设的分类器方法。由于朴素贝叶斯法基于贝叶斯公式计算得到，有着坚实的数学基础，以及稳定的分类效率。NB模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单...
阿里云 快来一起挖掘幸福感！项目实战 项目地址https://tianchi.aliyun.com/competition/entrance/231702/information 1，数据准备 问卷调查数据主要包含的个人信息有职业，婚姻状况，收入，学历等40个features，label就是幸福感。 首先对数据进行预处理 (一) 第二列是数据特征，先独立抽取出来。 (二) 第七列是时间，本身对结果影响不大，又由于是字符串，暂时删除不用。 (三) 数据本身包含20197个空缺，对数据进行补充。 2，训练...
分类算法 目标值:类别 1.sklearn转换器和预估器 2.KNN算法 3.模型选择与调优 4.朴素贝叶斯算法 5.决策树 6.随机森林 3.1 sklearn转换器和预估器 转换器 估计器(estimator) 3.1.1 转换器 1.实例化(实例化的是一个转换器类(Transformer)) 2.调用fit_transform(对于文档建立分类词频矩阵,不能同时调用) 标准化: (x - mean) / std fit_transform fit() 计算 每一列的平均值、标准差 transform() (x - mean) / std进行最终的转换 3.1.2 ...
这里先给出阿里云机器学习训练营地址：阿里云机器学习训练营，可以将其代码下载进行学习或者参加最后一个任务的比赛。 1. 实验室介绍 1.1 实验环境 1. python3.7 2. numpy >= '1.16.4' 3. sklearn >= '0.23.1' 1.2 朴素贝叶斯的介绍 朴素贝叶斯算法（Naive Bayes, NB) 是应用最为广泛的分类算法之一。它是基于贝叶斯定义和特征条件独立假设的分类器方法。由于朴素贝叶斯法基于贝叶斯公式计算得到，有着坚实的数学基础，以及稳定的分...
笔记1：机器学习算法（一）: 基于逻辑回归的分类预测 1.概念辨析1.1 分类预测1.2 逻辑回归 2.代码解析2.1 教程中的代码流程2.2 教程代码知识准备2.2.1 使用到的第三方库2.2.2 使用到的函数2.2.3 使用到的数据集 2.3 实际代码2.4 知识点补充 3.总结文章内容为针对天池机器学习训练营提供的实战教程笔记1.概念辨析 第一篇内容为“基于逻辑回归的分类预测” 1.1 分类预测 在机器学习的术语中，当预测值为连续值时，称为“回归问题”，...
机器学习深版08：EM算法 文章目录 机器学习深版08：EM算法1. 铺垫2. 问题引入与欧拉解释3. 更加严谨的推导1. 铺垫Jensen不等式：对于凸函数，有以下结论：上图是连续的下图是离散的： 2. 问题引入与欧拉解释 问题提出：K-means算法可以将数据分成簇，但是却给不出它的后验概率。 高斯混合模型GMM，混合高斯分布不是高斯分布。 结论是正确的，解释过程略有问题。 先验假设对最后的结果会有影响，有时影响是决定性的。 ...
机器学习算法（2）: 朴素贝叶斯(Naive Bayes) 1. 实验室介绍 1.1 实验环境 1. python3.7 2. numpy >= '1.16.4' 3. sklearn >= '0.23.1'1.2 朴素贝叶斯的介绍 朴素贝叶斯算法（Naive Bayes, NB) 是应用最为广泛的分类算法之一。它是基于贝叶斯定义和特征条件独立假设的分类器方法。由于朴素贝叶斯法基于贝叶斯公式计算得到，有着坚实的数学基础，以及稳定的分类效率。NB模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单...
文章目录 1、朴素贝叶斯的介绍1.1 简介1.2 朴素贝叶斯的应用 2、使用举例1、朴素贝叶斯的介绍 1.1 简介 朴素贝叶斯算法（Naive Bayes, NB) 是应用最为广泛的分类算法之一。它是基于贝叶斯定义和特征条件独立假设的分类器方法。由于朴素贝叶斯法基于贝叶斯公式计算得到，有着坚实的数学基础，以及稳定的分类效率。NB模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。当年的垃圾邮件分类都是基于朴素贝叶斯分类器识别的...
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理 最基本的机器学习算法必须是具有单个变量的线性回归算法。如今，可用的高级机器学习算法，库和技术如此之多，以至于线性回归似乎并不重要。但是，学习基础知识总是一个好主意。这样，您将非常清楚地理解这些概念。在本文中，我将逐步解释线性回归算法。 ? 想法和公式 线性回归使用非常基本的预测思想。公式如下： Y = C + BX 我...