首先，我们知道，主要的机器学习方法分为监督学习和无监督学习。监督学习主要是指我们已经给出了数据和分类，基于这些我们训练我们的分类器以期达到比较好的分类效果，比如我们前面讲的Logistic回归啊，决策树啊，SVM啊都是监督学习模型。无监督学习就是指我们就只有数据，没有分类结果，然后根据数据进行建模能够给出哪些样本是属于一类的一个过程，通常我们就称之为聚类。 今天我主要介绍以下几种最常见的聚类算法，包括K-Means算...
Having a solid base of algorithm knowledge and technique is one characteristic that separates the truly skilled programmers from the novices. 是否具有扎实的算法知识和技术基础，是区分真正熟练的程序员与新手的一项重要特征。 1. 循环不变式的三Having a solid base of algorithm knowledge and technique is one characteristic that separates the truly skilled programmers from the novices. 是否具有扎实的算法知...
Having a solid base of algorithm knowledge and technique is one characteristic that separates the truly skilled programmers from the novices. 是否具有扎实的算法知识和技术基础，是区分真正熟练的程序员与新手的一项重要特征。 1. 循环不变式的三Having a solid base of algorithm knowledge and technique is one characteristic that separates the truly skilled programmers from the novices. 是否具有扎实的算法知...
经典算法之贪心算法 学习笔记 贪心算法介绍 理解 贪心算法是局部最优的，大多数情况下也是整体最优。 贪心算法通常以自顶向下的方式进行，以迭代的方式作出相继的贪心选择，每作一次贪心选择就将所求问题简化为规模更小的子问题。 基本要素 1.贪心选择性质 指所求问题的整体最优解可以通过一系列局部最优的选择，即贪心选择来达到。 对于一个具体问题，要确定它是否具有贪心选择性质，必须证明每一步所作的贪心选择最终导致问题的整...
时间复杂度和空间复杂度 一、引言二、时间复杂度2.1 算法时间复杂度的定义2.2 推导大0阶的攻略2.3 常见的时间复杂度 三、空间复杂度一、引言 设计算法一般是为了提高效率，这里的效率通常是指算法执行的是时间 那我们因该如何度量算法的执行时间呢？ 事前分析估算方法：在计算机程序编写前，依据统计方法对算法进行评估 高级语言编写的程序在计算机上运行时所消耗的时间取决于下列因素： 序号因素1算法采用的策略，方案2编译产生的...
学习笔记：数据结构与算法（二十一）：散列表-哈希表 定义散列表的查找步骤构造基本原则散列地址方法直接定址法数字分析法平方取中法折叠法除留余数法随机数法选择 处理散列冲突开放定址法再散列函数法链地址法公共溢出区法 代码实现 在a[]中查找key关键字的记录： 顺序表查找：按顺序查找有序表查找：二分法查找散列表查找：？ 记录的存储位置 = f(关键字) 定义 散列技术是在记录的存储位置和它关键字之间建立一个确定的对应关系f...
本节部分内容译自博文 Решето Эратосфена 与其英文翻译版 Sieve of Eratosthenes。其中俄文版版权协议为 Public Domain + Leave a Link；英文版版权协议为 CC-BY-SA 4.0。素数筛法 如果我们想要知道小于等于 \(n\) 有多少个素数呢？ 一个自然的想法是对于小于等于 \(n\) 的每个数进行一次质数检验。这种暴力的做法显然不能达到最优复杂度。 埃拉托斯特尼筛法 考虑这样一件事情：如果 \(x\) 是合数，那么 \(x\) 的倍...
本文探究了生成树问题的相关知识。 写在前面 生成树问题是图论的重点，其中最小生成树更是最基础的入门问题。 Murabito 将会在这里记录他有关生成树的理解。此类问题众多，本文将不断更新。 问题介绍 给定一个 \(n\) 个顶点， \(m\) 条边的无向图。要求你从中选择 \(n?1\) 条边，构成一个具有特殊性质的树。 ACM 中常见的生成树包括：最大/小生成树 次大/小生成树 生成树计数解法介绍 最大/小生成树 以最小生成树 Minimum Spanning...
基础介绍 数据结构 1. 软件 = 程序 + 文档 程序 = 数据结构 + 算法 2. 对于一个数据结构来讲，需要做到增删减查四个基本功能。 堆栈 堆栈是一种数据结构。堆栈都是一种数据项按序排列的数据结构,只能在一端(称为栈顶(top))对数据项进行插入和删除。 堆栈就像一个圆柱体的硬币盒（只开一边口），每次只能从顶部操作，后进先出，每次只能取得最顶部的一枚硬币。 模板类 在定义类之前，使用template<class Item>获得一个模板 (item处...
视频地址：https://www.bilibili.com/video/BV1aE411o7qd?p=46 笔记地址：https://www.yuque.com/books/share/f4031f65-70c1-4909-ba01-c47c31398466/nl8l9lP60 EM算法1 - 收敛性证明 EM算法核心思想：是具有隐变量的混合模型的参数估计。本节主要证明了分步迭代更新参数θ时，新的θt+1一定会使X取的比上一步θt更高的置信度P(X|θ)，这样算法才能保证收敛。 前置知识：首先要理解什么是含有隐变量的混合模型。我们之前处理的都是...
学习笔记（一） 引论递归简论实现泛型构件pre-Java 5使用Object表示泛型基本类型的包装主要是贴自己的部分源码引论 简要复习递归 概括本书的Java语言的某些重要特点 递归简论 /** @Author: 橘足轻重 * @Date: 2021-01-11 15:13:06 * @Last Modified by: 橘足轻重* @Last Modified time: 2021-01-11 15:26:36*/public class chap1 {public static void main(String[] args) {printOut(123456789);int x = f(2);System.out.println("...
散列（hash）是常用算法之一。简单来说，散列就是将一个元素通过一个函数转换为整数，使得该整数可以尽量唯一的代表这个元素。将这个函数成为散列函数H，元素转换前为key，转换后为H（key）。 key为整数时，常用的散列函数有直接定址法、平方取中法、除留余数法等。 直接定址法有恒等变换H(key)=key和线性变换H(key)=a*key+b; 平方取中法是指取key平方中间若干位作为hash值，很少使用。 除留余数法是H(key)=key%mod,表长TSize必须不...
第五章 散列 5.1 基本思想5.2 散列函数5.3 分离链接法5.4 不使用链表的散列表5.4.1 线性探测5.4.2 平方探测5.4.3 双散列 5.5 再散列小结散列表的实现常称为 散列（hashing），是一种用于常数平均时间执行插入、删除和查找的技术。5.1 基本思想 理想的散列表数据结构只不过是包含一些项的具有固定大小的数组。 把表的大小记作TableSize，并将其理解为散列数据结构的一部分而不仅仅是浮动于全局的某个变量。将每个键映射到从0到Table...
学习笔记：数据结构与算法（十三）：赫夫曼树 图定义其他的相关概念图的存储结构邻接矩阵（无向图）邻接矩阵（有向图）邻接矩阵（网）图 定义 图（Graph）是由顶点的有穷非空集合和顶点之间边的集合组成，通常表示为G（V,E），其中G表示一个图，V是图G中顶点的集合，E是图G中边的集合。 注意： 图中数据元素称为顶点（Vertex）强调图的顶点集合V要有穷非空图中，任意两个顶点都可能有关系，逻辑关系用边来表示，边集可以是空的。 ...
文章目录 第四章 分类1.分类基本概念2.预测任务3.模型分类生成模型判别模型 4.经典分类方法4.1 决策树引入：高尔夫问题引入小结决策树构建决策树构造具体流程属性选择度量信息增益信息增益率 过拟合问题4.2 KNN算法什么是KNN算法？KNN基本思想KNN算法过程算法计算步骤算法的优缺点KNN的常见问题 4.3 朴素贝叶斯什么是贝叶斯分类算法？第四章 分类 1.分类基本概念 分类是一种数据分析形势，它提取刻画重要数据类的模型，这种模型叫分...