梯度下降法原理以及代码实现 本篇博客承接本人上一篇关于逐步回归算法的引申，本篇将开始整理梯度下降算法的相关知识。梯度下降，gradient descent(之后将简称GD)，是一种通过迭代找最优的方式一步步找到损失函数最小值的算法，基本算法思路可总结为如下几点： (1) 随机设置一个初始值 (2) 计算损失函数的梯度 (3) 设置步长，步长的长短将会决定梯度下降的速度和准确度，之后会详细展开 (4) 将初值减去步长乘以梯度，更新初值，然后...
桶排序假设输入数据服从均匀分布，平均情况下它的时间复杂度为O（n）。 桶排序将输入数据的区间均匀分成若干份，每一份称作“桶”。分别对每一个桶的内容进行排序，再按桶的顺序输出则完成排序。 通常使用链表来实现桶。 代码如下：（仅供参考）void Insert(vector<double> & bkt, double num) {for (vector<double>::iterator p = bkt.begin(); p != bkt.end(); ++p)if (*p > num) {bkt.insert(p, num);return ;}bkt.push_back(nu...
归并排序利用分治策略进行排序。原理如下 分解：分解待排的n个元素的序列成个具n/2个元素的两个子序列。 解决：使用归并排序递归地排序两个子序列。 合并：合并两个已排序的子序列以产生已排序的答案。 归并排序的时间复杂度是θ（n）。 归并排序是稳定排序之一。 归并排序不是原址排序，在合并阶段需要申请额外的数组空间。 代码如下： 1 //使用哨兵来简化代码2 void Merge(int * const first, int * const mid, int * const last...
插入排序是最常用的排序之一。 在输入规模较小的时候，插入排序的性能较好。 最好情况下插入排序的时间复杂度是O(n),平均情况则为O(n2)。 插入排序是稳定的排序算法之一。 基本思路为从第二个元素开始，依次插入前面已经排好序的序列，利用循环不变式很容易理解。 代码如下： 1 void InsertionSort(int * const begin, int * const end) {2 int i, j;3 int key;4 for (i = 1; i < end - begin; ++i) {5 key = ...
在上一次，我们通过取余等数学方法实现了顺序存储的循环队列。由于我们使用的是Python内置的列表类型作为底层，实际上我们的存储空间并不是首尾相连的。下面，我们使用链式存储结构来实现一个真正首尾相连的循环队列：class Node(object):'定义节点。'def __init__(self):'初始化：数据域与指针域。'self.data = Noneself.next = Noneclass Queue(object):'定义循环链表。'def __init__(self,MaxSize):'初始化：建立链式存储空间。...
import org.apache.commons.codec.binary.Base64; ? public class Base64Demo01 {?public static void main(String[] args) {??//对内容进行加密??String s="123456";??//byte[] buf=Base64.encodeBase64(s.getBytes());??String result=Base64.encodeBase64String(s.getBytes());??System.out.println(result);//MTIzNDU2????//对内容进行解密??? byte[] buf=?Base64.decodeBase64(result);??? System.out.println(new String(buf...
前言：拿到一个案例，去分析：它该是做分类还是做回归，哪部分该做分类，哪部分该做回归，哪部分该做优化，它们的目标值分别是什么。再挑影响因素，哪些和分类有关的影响因素，哪些和回归有关的影响因素，哪些和优化有关的影响因素。对于线性回归来说， 一、导入需要的所有模块和包# 引入所需要的全部包 from sklearn.model_selection import train_test_split # 数据划分的类，用于交叉验证 from sklearn.linear_model import Lin...
一、聚类（无监督）的目标 使同一类对象的相似度尽可能地大；不同类对象之间的相似度尽可能地小。 二、层次聚类 层次聚类算法实际上分为两类：自上而下或自下而上。自下而上的算法在一开始就将每个数据点视为一个单一的聚类，然后依次合并（或聚集）类，直到所有类合并成一个包含所有数据点的单一聚类。因此，自下而上的层次聚类称为合成聚类或HAC。聚类的层次结构用一棵树（或树状图）表示。树的根是收集所有样本的唯一聚类，而叶...
选择排序算法的工作原理如下： 1. 首先在序列中找到最小或最大元素，存放到排序序列的前或后。 2. 然后，再从剩余元素中继续寻找最小或最大元素。 3. 然后放到已排序序列的末尾。 4. 以此类推，直到所有元素均排序完毕。 例子图步骤如下： #!/usr/bin/env python # -*- coding:utf-8 -*- __author__ = "hsz"def select_sort(alist):n = len(alist)# 外层控制比较几轮for j in range(n - 1):min_index = j# 内层控制元素比较和更新索...
先贴上代码 1 #include<stdio.h>2 #define N 123 //length统计数组的长度 返回最后元素的下标 4 int length(int a [N]){5 for(int i = 0;i<=N;i++){6 if(a[i]==0) return i-1;7 8 } 9 } 10 //打印输出数组元素 11 void show(int a[N]){ 12 for(int i= 0;i<N;i++){ 13 if(a[i]!=0) printf("%4d",a[i]); 14 15 } 16 } 17 //希尔排序 （插入排序升级版） 18 void shel...
十大经典排序算法最强总结（含JAVA代码实现） ? 最近几天在研究排序算法，看了很多博客，发现网上有的文章中对排序算法解释的并不是很透彻，而且有很多代码都是错误的，例如有的文章中在“桶排序”算法中对每个桶进行排序直接使用了Collection.sort()函数，这样虽然能达到效果，但对于算法研究来讲是不可以的。所以我根据这几天看的文章，整理了一个较为完整的排序算法总结，本文中的所有算法均有JAVA实现，经本人调试无误后才发出...
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。本文链接：https://blog.csdn.net/qq_33275597/article/details/52759223一、二叉树的定义： 二叉树是树形结构的一个重要类型。许多实际问题抽象出来的数据结构往往是二叉树的形式，即使是一般的树也能简单地转换为二叉树，而且二叉树的存储结构及其算法都较为简单，因此二叉树显得特别重要。 二叉树(BinaryTree)是n(n≥0)个结点的...
1.K-Means算法 K-Means算法，也被称为K-平均或K-均值算法，是一种广泛使用的聚类算法。K-Means算法是聚焦于相似的无监督的算法，以距离作为数据对象间相似性度量的标准，即数据对象间的距离越小，则它们的相似性越高，则它们越有可能在同一个类簇。之所以被称为K-Means是因为它可以发现k个不同的簇，且每个簇的中心采用簇中所含值的均值计算而成。2.聚类的概念 聚类，则是给定的样本没有事先确定类别，根据自己需要，确定类别数...
本文链接：https://blog.csdn.net/marywbrown/article/details/62059231??????????????? ??????????? ??????????????????? ??????????????????????????????????????????????????? ??????????????????????????????????????? ??????????????????? ??????????????????? ??????????????????????????????????????????? 原创文章，转载请注明，谢谢~ 一、背景介绍 ??Modularity(模块度), 这个概念是2003年一个叫Newman的人提出的。这个人...
本篇内容：冒泡排序冒泡排序 算法思想： 冒泡排序的原理是：从左到右，相邻元素进行比较。 每次比较一轮，就会找到序列中最大的一个或最小的一个。这个数就会从序列的最右边冒出来。 代码实现：/*** */ package com.cherish.SortingAlgorithm;/*** @author acer**/ public class chapter_2_BubbleSorting extends ArrayBase{/*** */public chapter_2_BubbleSorting() {// TODO 自动生成的构造函数存根}/*** @param args*/public st...