排序算法概览插入排序基本思想是每次讲一个待排序的记录，按其关键字大小插入到前面已拍好的子序列中，直到全部完成。直接插入排序讲元素L(i)插入到有序序列L[1,…,i-1]中，执行以下操作： 1. 查找出L(i)在L[1,…,i-1]中的插入位置k。 2. 将L[k,…,i-1]中所有元素全部后移一位。 3. 将L(i)复制到L(k)def InsertSort(array_a, n):for i in range(1, n):temp = array_a[i]j = i - 1while temp < array_a[j] and j >= 0:array_a[j + 1...
转载：http://linbingdong.com/2017/04/17/%E5%88%86%E5%B8%83%E5%BC%8F%E7%B3%BB%E5%88%97%E6%96%87%E7%AB%A0%E2%80%94%E2%80%94Paxos%E7%AE%97%E6%B3%95%E5%8E%9F%E7%90%86%E4%B8%8E%E6%8E%A8%E5%AF%BC/Paxos算法在分布式领域具有非常重要的地位。但是Paxos算法有两个比较明显的缺点：1.难以理解 2.工程实现更难。网上有很多讲解Paxos算法的文章，但是质量参差不齐。看了很多关于Paxos的资料后发现，学习Paxos最好的资料是论文《...
（上接第二章） 4.3.1 KMeans 算法流程 算法的过程如下： （1）从N个数据文档随机选取K个文档作为质心 （2）对剩余的每个文档测量其到每个质心的距离，并把它归到最近的质心的类 （3）重新计算已经得到的各个类的质心 （4）迭代（2）~（3）步直至新的质心与原质心相等或者小于指定阀值，算法结束。 4.3.2 辅助函数 （1）文件数据转为矩阵：file2matrixdef file2matrix(path,delimiter):recordlist = []fp ...
导读 SHA-1算法是第一代“安全散列算法”的缩写，其本质就是一个Hash算法。SHA系列标准主要用于数字签名，生成消息摘要，曾被认为是MD5算法的后继者。如今SHA家族已经出现了5个算法。Redis使用的是SHA-1，它能将一个最大2^64比特的消息，转换成一串160位的消息摘要，并能保证任何两组不同的消息产生的消息摘要是不同的。虽然SHA1于早年间也传出了破解之道，但作为SHA家族的第一代算法，对我们仍然很具有学习价值和指导意义。...
基于clahe的图像去雾 通过阅读一些资料，我了解到clahe算法对图像去雾有所价值，正好opencv中有了实现，拿过来看一看。但是现在实现的效果还是有所差异#include "stdafx.h"#include <iostream>#include "opencv2/core/core.hpp"#include "opencv2/highgui/highgui.hpp"#include "opencv2/imgproc/imgproc.hpp"using namespace std;using namespace cv;int _tmain(int argc, _TCHAR* argv[]){ Mat src = imread("4.jpg");...
1. KNN分类算法原理及应用1.1 KNN概述K最近邻（k-Nearest Neighbor，KNN）分类算法是最简单的机器学习算法。KNN算法的指导思想是“近朱者赤，近墨者黑”，由你的邻居来推断你的类型。本质上，KNN算法就是用距离来衡量样本之间的相似度。1.2 算法图示从训练集中找到和新数据最接近的k条记录，然后根据多数类来决定新数据类别算法涉及3个主要因素 1) 训练数据集2) 距离或相似度的计算衡量3) k的大小 算法描述1) 已知两类“先验...
一、GBDT 在介绍AdaBoost的时候我们讲到了，AdaBoost算法是模型为加法模型，损失函数为指数函数（针对分类为题），学习算法为前向分步算法时的分类问题。而GBDT算法是模型为加法模型，学习算法为前向分步算法，基函数为CART树（树是回归树），损失函数为平方损失函数的回归问题，为指数函数的分类问题和为一般损失函数的一般决策问题。在针对基学习器的不足上，AdaBoost算法是通过提升错分数据点的权重来定位模型的不足，而梯...
短网址（Short URL），顾名思义就是在形式上比较短的网址。通常用的是asp或者php转向，在Web 2.0的今天，不得不说，这是一个潮流。目前已经有许多类似服务，借助短网址您可以用简短的网址替代原来冗长的网址，让使用者可以更容易的分享链接。 例如：http://t.cn/SzjPjA短网址服务，可能很多朋友都已经不再陌生，现在大部分微博、手机邮件提醒等地方已经有很多应用模式了，并占据了一定的市场。估计很多朋友现在也正在使用。 看过新...
冒泡排序比较相邻的元素。如果第一个比第二个大，就交换他们两个。对每一对相邻元素做同样的工作，从开始第一对到结尾的最后一对。在这一点，最后的元素应该会是最大的数。针对所有的元素重复以上的步骤，除了最后一个。持续每次对越来越少的元素重复上面的步骤，直到没有任何一对数字需要比较堆排序将初始待排序关键字序列(R1,R2....Rn)构建成大顶堆，此堆为初始的无须区；将堆顶元素R[1]与最后一个元素R[n]交换，此时得到新的无序...
一、介绍 Powell算法是图像配准里面的常用的加速算法，可以加快搜索速度，而且对于低维函数的效果很好，所以本篇博客主要是为了介绍Powell算法的原理以及实现。 由于网上已经有了对于Powell算法的讲解，所以我只是把链接放出来（我觉得自己目前还没有这个讲解的能力），大家自己去了解。 放在这里主要也是为了节省大家搜索的时间。（都是我辛辛苦苦搜出来的^-^）。二、预备知识 了解一维搜索算法：进退法，消去法，黄金...
【机器学习】算法原理详细推导与实现(五):支持向量机(下)上一章节介绍了支持向量机的生成和求解方式，能够根据训练集依次得出\(\omega\)、\(b\)的计算方式，但是如何求解需要用到核函数，将在这一章详细推导实现。核函数在讲核函数之前，要对上一章节得到的结果列举出来。之前需要优化的凸函数为：\[ min_{\gamma,\omega,b}->\frac{1}{2}||\omega||^2 \]\[ y^{(i)}(\omega^Tx^{(i)}+b) \geq 1 ,i=1,2,...,m \]这里假设数据是线性可...
具体原理网址：http://wenku.baidu.com/link?url=zSDn1fRKXlfafc_tbofxw1mTaY0LgtH4GWHqs5rl8w2l5I4GF35PmiO43Cnz3YeFrrkGsXgnFmqoKGGaCrylnBgx4cZC3vymiRYvC4d3DF3自组织特征映射神经网络（Self-Organizing Feature Map。也称Kohonen映射），简称为SMO网络，主要用于解决模式识别类的问题。SMO网络属于无监督学习算法，与之前的Kmeans算法类似。所不同的是，SMO网络不需要预先提供聚类的数量，类别的数量是由网络自动识别出来的。...
MD5（单向散列算法）的全称是Message-DigestAlgorithm 5（信息-摘要算法），经MD2、MD3和MD4发展而来。MD5算法的使用不须要支付不论什么版权费用。 MD5功能： 输入随意长度的信息，经过处理，输出为128位的信息（数字指纹）； 不同的输入得到的不同的结果（唯一性）； 依据128位的输出结果不可能反推出输入的信息（不可逆）； MD5属不属于加密算法： 觉得不属于的人是由于他们觉得不能从密文（散列值）反过来得...
首先什么是人工神经网络？简单来说就是将单个感知器作为一个神经网络节点，然后用此类节点组成一个层次网络结构，我们称此网络即为人工神经网络（本人自己的理解）。当网络的层次大于等于3层（输入层+隐藏层（大于等于1）+输出层）时，我们称之为多层人工神经网络。1、神经单元的选择 那么我们应该使用什么样的感知器来作为神经网络节点呢？在上一篇文章我们介绍过感知器算法，但是直接使用的话会存在以下问题： 1）感知器训...
经典的7种排序算法 原理C++实现排序是编程过程中经常遇到的操作，它在很大程度上影响了程序的执行效率。7种常见的排序算法大致可以分为两类：第一类是低级排序算法，有选择排序、冒泡排序、插入排序；第二类是高级排序算法，有堆排序、排序树、归并排序、快速排序。一、低级排序算法1. 选择排序排序过程：给定一个数值集合，循环遍历集合，每次遍历从集合中选择出最小或最大的放入集合的开头或结尾的位置，下次循环从剩余的元素集合...