最小二乘法原理最小二乘法的目标：求误差的最小平方和，对应有两种：线性和非线性。线性最小二乘的解是closed-form（如下文），而非线性最小二乘没有closed-form，通常用迭代法求解（如高斯牛顿迭代法，本文不作介绍）。【首先得到线性方程组】1.概念最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之...
K路归并排序(k-way merge sort) 代码(C++)本文地址: http://blog.csdn.net/caroline_wendyK路归并排序作为经典的外部排序算法, 是程序员必须要掌握的.知识概念参考: <数据结构>主要思想: 在k个已排序的文件中, 选择第一个值, 采用败者树, 更新二叉树结构, 最终选择最优值.代码仅供参考, 如最小值用(-1)代替, 最大值用(100)代替./** main.cpp** Created on: 2014年9月11日* Author: Spike*/#include <fstream>
#include <iost...
分类是数据挖掘中十分重要的组成部分.分类作为一种无监督学习方式被广泛的使用.之前关于"数据挖掘中十大经典算法"中,基于ID3核心思想的分类算法C4.5榜上有名.所以不难看出ID3在数据分类中是多么的重要了.ID3又称为决策树算法,虽然现在广义的决策树算法不止ID3一种,但是由于ID3的重要性,习惯是还是把ID3和决策树算法等价起来.另外无监督学习方式我还要多说两句.无监督学习方式包括决策树算法,基于规则的分类,神经网络等.这些分类方式...
java八大经典算法：冒泡、选择、快速、插入、希尔、堆、归并、基数1.算法实现类package com.algorithm;/*** * @Title: BubbleSort.java* @Copyright: Copyright (c) 2005* @Description: <br>* <br>* JAVA六大经典算法<br>* 冒泡、选择、快速、插入、希尔、堆* @Created on 2015年6月29日 下午12:48:14* @author yangkai*/
public class AlgorithmClassic {/*** 冒泡排序* * @return*/public static i...
图像锐化算法(Image sharpening):拉普拉斯增强和Unsharp Masking(附代码)\(y(m,n)=x(m,n)+\lambda*z(m,n)\)
其中\(x(m,n)\)是处理前图片,\(y(m,n)\)是锐化后，\(z(m,n)\)代表增强图像的边缘和细节(高频部分),\(\lambda\)是增强因子,如下图所示:1.laplacian 增强def laplacianSharpen(im, alpha):k = np.array([[0, 0, 0, ], [0, 1, 0], [0, 0, 0]])+alpha * np.array([[0, -1, 0], [-1, 4, -1], [0, -1, 0]])# k = np.arra...
1.斐波那契数列 Fibonacci
class fab{
public static void main(String args[]){
// fab(47) int 溢出
for(int i=0;i<47;i++)
System.out.print(fab(i)+" ");
System.out.println(); }
public static int fab(int n){
if(n==0) return 0;
if(n==1) return 1;
int fa=0;
int fb=...
食物链 并查集 代码(C)本文地址: http://blog.csdn.net/caroline_wendy题目: 有N只动物, 分别编号为1,2,...,N. 所有动物都属于A,B,C中的一种. 已知A吃B, B吃C, C吃A.按顺序给出两种信息K条.第一种: x和y属于同一类.第二种: x吃y. 信息之间可能会出错和矛盾, 求不正确的信息数.例如:有N=10只动物, 给定K=7条信息.(1) 1: x=101, y=1; 出错:没有101的动物.(2) 2: x=1, y=2; 动物1吃动物2.(3) 2: x=2, y=3; 动物2吃动物3.(4) 2: x=3, y...
上一篇博客写了k-means聚类算法和改进的k-means算法，这篇博客就贴出对应的MATLAB和C++代码。以下是MATLAB代码，实现用k-means进行分割：%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%功能：实现如何利用Kmeans聚类实现图像的分割；时间：2015-07%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%functionkmeans_segmentation()clear;close all;clc;%% 读取测试图像im = imread(‘city.jpg‘);imshow(im), title(‘Imput image‘); ...
背包问题(记忆化搜索) 代码(C)本文地址: http://blog.csdn.net/caroline_wendy题目参考: http://blog.csdn.net/caroline_wendy/article/details/37912949使用记忆化搜索, 需要存储每组的值, 下次不需要进行继续迭代, 可以降低至时间复杂度O(nW).代码:/** main.cpp** Created on: 2014.7.17* Author: spike*//*eclipse cdt, gcc 4.8.1*/#include <stdio.h>
#include <memory.h>
#include <limits.h>#include <utility>
#inclu...
最好牛线(Best Cow Line) 代码(C)本文地址: http://blog.csdn.net/caroline_wendy题目: 给定长度为N的字符串S, 要构造一个长度为N的字符串T. 反复进行如下任意操作.从S的头部删除一个字符, 放入T的尾部;从S的尾部删除一个字符, 放入T的尾部;目标是要构造字典序尽可能小的字符串T.使用贪心算法, 不断选取S首尾最小的字符, 放入T, 如果相等, 则再次向内查找, 找到内部最小的.代码:/** main.cpp** Created on: 2014.7.17* Autho...
1 #include <iostream>2 #include <vector>3usingnamespace std;4 5//交换int 6void swap(int& a, int& b){7int temp = a;8 a = b;9 b = temp; 10}11 12//冒泡 13void BulletSort(vector<int>& nums){14int n = nums.size();15for (int i = 0; i < nums.size()-1; i++){16for (int j = 0; j < nums.size() - i -1; j++){17if (nums[j] > nums[j+1]){18 swap(nums[j], nums[j+1]);19 }20 ...
前言 本文将介绍机器学习分类算法中的Logistic回归分类算法并给出伪代码，Python代码实现。 (说明：从本文开始，将接触到最优化算法相关的学习。旨在将这些最优化的算法用于训练出一个非线性的函数，以用于分类。)算法原理 首先要提到的概念是回归。 对于回归这个概念，在以后的文章会有系统而深入的学习。简单的说，回归就是用一条线对N多数据点进行一个拟合，这个拟合的过程就叫做回归。 Logistic...
K近邻算法思想非常简单，总结起来就是根据某种距离度量检测未知数据与已知数据的距离，统计其中距离最近的k个已知数据的类别，以多数投票的形式确定未知数据的类别。 一直想自己实现knn的java实现，但限于自己的编程水平，java刚刚入门，所以就广泛搜索网上以实现的java代码来研习。下面这个简单的knn算法的java实现是在这篇博客中找到的：http://blog.csdn.net/luowen3405/article/details/6278764 下面给出我对代码的注释，如果有...
1 SAT问题描述命题逻辑中合取范式 (CNF) 的可满足性问题 (SAT)是当代理论计算机科学的核心问题, 是一典型的NP 完全问题.在定义可满足性问题SAT之前，先引进一些逻辑符号。
一个 SAT 问题是指: 对于给定的 CNF 是否存在一组关于命题变元的真值指派使A为真. 显然,如A为真,则CNF的每个子句中必有一个命题变元为1(真)。2 遗传算法遗传算法类似于自然进化，通过作用于染色体上的基因寻找好的染色体来求解问题。与自然界相似，遗传算法...
代码有问题，运行出错，寻找解决办法，是不是数据集的错误呢？ #include<iostream>#include<queue>#include<cmath>#include<cassert>#include<cstdlib>#include<fstream>#include<sstream>#include<vector>#include<algorithm>using namespace std;const int ITERM_SIZE=1682;const int USER_SIZE=943;const int V=15; //ITERM的最近邻居数const int S=10; //USER的最近邻居数struct MyPair{ int id; double v...
