文章目录 什么是决策树熵、条件熵ID3、C4.5CART 什么是决策树 决策树可以简单理解为是一种根据特征信息不断分裂，直至达到某一阈值（可以是max_depth、min_node_leafs等）分裂结束，就是一串的if…then…结构。那么谁作为第一个if判断的特征呢？这就需要熵、条件熵、信息增益登场了。 熵、条件熵 熵是表示随机变量Y不确定的度量，熵越大则越混乱越无法确定；越小则越肯定，例如拜登是男的，entropy=0。下面是熵的计算公...
集群容错 在分布式网络通信中，容错能力是必须要具备的，什么叫容错呢？ 从字面意思来看：容：是容忍， 错：是错误。 就是容忍错误的能力。 我们知道网络通信会有很多不确定因素，比如网络延迟、网络中断、服务异常等，会造成当前这次请求出现失败。 当服务通信出现这个问题时，需要采取一定的措施应对。而dubbo中提供了容错机制来优雅处理这种错误 在集群调用失败时，Dubbo提供了多种容错方案，缺省为failover重试。 @Service(loa...
Policy Gradient策略根据在某个状态采取某种行为来决定能得到多少的奖励值。调整内部Actor的参数使得总奖励值R越大越好。但R是一个随机变量，转换为最大化期望值。 策略梯度算法推导需要让Agent不断跟环境互动，搜集多条轨迹数据 采样到的数据只有一次， 具体的实现过程需要在后面乘以整场游戏的Reward。 实际操作技巧之添加Baseline 因为奖励可能总是正的。对于动作a, b,c而言，权重大的动作表明被其被采取的概率提升越大，在都提...
AES算法又叫高级加密标准算法，功能强大，算法比较可靠，能够对任意长度的明文、密文和密钥处理进行加解密。 以加密为例，基本的步骤是： 1.把明文分段，可以根据实际需求每段分为128bit,256bit或者更长，分段越长越安全，但是时间复杂度也越高。密钥长度与明文段长度一致，即分为128bit,256bit（AES可以对任意字符串处理，使他符合密钥要求） 2.明文和密钥进行运算加密：AES加密算法里有一个内置矩阵，用二维数组表示。将明文段分...
1、什么是CAS？ CAS：Compare and Swap，即比较再交换。 jdk5增加了并发包java.util.concurrent.*,其下面的类使用CAS算法实现了区别于synchronouse同步锁的一种乐观锁。JDK 5之前Java语言是靠synchronized关键字保证同步的，这是一种独占锁，也是是悲观锁。 2、CAS算法理解 对CAS的理解，CAS是一种无锁算法，CAS有3个操作数，内存值V，旧的预期值A，要修改的新值B。当且仅当预期值A和内存值V相同时，将内存值V修改为B，否则什么都不...
一、算法简介 LIME算法是Marco Tulio Ribeiro2016年发表的论文《“Why Should I Trust You?” Explaining the Predictions of Any Classi?er》中介绍的局部可解释性模型算法。该算法主要是用在文本类与图像类的模型中。 1.算法主要用途 在算法建模过程中，我们一般会用测试集的准确率与召回率衡量一个模型的好坏。但在和客户的实际沟通时，单单抛出一个数字就想要客户信任我们，那肯定是不够的，这就要求我们摆出规则，解释模型。...
分类算法 knn: 原理：当预测一个新的值x的时候，根据它邻近的k个点的类别来判断x属于哪个类别，有监督学习 优点：1）模型训练时间快；2）预测效果好；3）对异常值不敏感；4）适用于多分类问题 缺点：1）对测试样本计算大，占用内存较大，可解释性差，无法给出决策树那样的规则 k-means: 原理：无监督学习，自动将相似的类归到一类（最小的组内距离和最大的组间距离） 优点：1)收敛速度较快，实现容易;2)聚类效果好；3）算法可解释效...
在Apriori算法原理总结中，我们对Apriori算法的原理做了总结。作为一个挖掘频繁项集的算法，Apriori算法需要多次扫描数据，I/O是很大的瓶颈。为了解决这个问题，FP Tree算法（也称FP Growth算法）采用了一些技巧，无论多少数据，只需要扫描两次数据集，因此提高了算法运行的效率。下面我们就对FP Tree算法做一个总结。 1. FP Tree数据结构为了减少I/O次数，FP Tree算法引入了一些数据结构来临时存储数据。这个数据结构包括三部分，...
GraphX之Pregel算法原理及Spark实现 Pregel案例：求顶点5到其他各点的最短距离Pregel原理分析 Pregel 源码def pregel[A: ClassTag](initialMsg: A,maxIterations: Int = Int.MaxValue,activeDirection: EdgeDirection = EdgeDirection.Either)(vprog: (VertexId, VD, A) => VD,sendMsg: EdgeTriplet[VD, ED] => Iterator[(VertexId, A)],mergeMsg: (A, A) => A): Graph[VD, ED] = {Pregel(graph, initialMsg, maxIterations, activ...
非常感谢大家陪伴公众号的每一天每一夜。此次机器学习算法与自然语言处理公众号给大家争取了免费福利！联合电子工业出版社免费送给大家《机器学习算法原理与编程实现》一书！ 书籍推荐理由本书是机器学习原理和算法编码实现的基础性读物，内容分为两大主线：单个算法的原理讲解和机器学习理论的发展变迁。算法除包含传统的分类、聚类、预测等常用算法之外，还新增了深度学习、贝叶斯网、隐马尔科夫模型等内容。对于每个算法，均包括...
深圳市立显电子有限公司，专业LED时钟生产厂家！--------【点击进入】 网络时钟同步漫谈： 分布式网络系统使用分布式算法，它的同步机制比集中式系统的复杂。在分布式网络系统中，在某一位置上不可能在收集到系统的所有信息后，再做出同步决策，而这在集中式系统中是能做到的。一般地，分布式时钟同步算法有以下特点：首先，相关的信息分布在多台网络时钟机器上；其次，进程只根据本地可用的信息做出决策；第三，应避免系统中...
目录 定义 基本思路 动态规划比较 举例说明-55. 跳跃游戏 一、定义 贪心算法（greedy algorithms）（《算法导论（第三版）》第 16 章也有叙述）的定义：在对问题求解时，总是做出在当前看来是最好的选择。贪心算法不是对所有问题都能得到整体最优解，关键是贪心策略的选择，选择的贪心策略必须具备无后效性，即某个状态以前的过程不会影响以后的状态，只与当前状态有关。 1.1 适应的问题对象： 贪心策略适用的前提是：局部最优策略...
这个算法中文名为k均值聚类算法，首先我们在二维的特殊条件下讨论其实现的过程，方便大家理解。 第一步.随机生成质心 由于这是一个无监督学习的算法，因此我们首先在一个二维的坐标轴下随机给定一堆点，并随即给定两个质心，我们这个算法的目的就是将这一堆点根据它们自身的坐标特征分为两类，因此选取了两个质心，什么时候这一堆点能够根据这两个质心分为两堆就对了。如下图所示： 第二步.根据距离进行分类 红色和蓝色的点代表了我...
文章目录直方图均衡化的介绍 直方图均衡化原理 手工实现直方图均衡化理论知识来源： 直方图均衡化算法原理与实现直方图均衡化 16位或者8位直方图实现代码：直方图均衡（支持单通道16位和8位图像）.rar直方图均衡化的介绍 直方图均衡化是一种简单有效的图像增强技术，通过改变图像的直方图来改变图像中各像素的灰度，主要用于增强动态范围偏小的图像的对比度。原始图像由于其灰度分布可能集中在较窄的区间，造成图像不够清晰。例如，...
【机器学习】算法原理详细推导与实现(七):决策树算法 在之前的文章中，对于介绍的分类算法有逻辑回归算法和朴素贝叶斯算法，这类算法都是二分类的分类器，但是往往只实际问题中\(y\)不仅仅只有\(\{0,1\}\)，当出现一个新的类别\(y=2\)时，之前的分类器就不太适用，这里就要介绍一个叫做决策树的新算法，该算法对于多个目标的离散特征往往有比较好的分类效果，用以解决\(x\)是离散型的数据，这是判别模型，也是一个生成学习算法。 I...