1、机器学习分类有监督学习 无监督学习 半监督学习 强化学习 遗传算法2、神经网络一种基于传统统计学的模型，由大量的神经元与其关系构成。常用来对复杂的输入和输出关系进行建模 误差反向传递：给出信号，得到经过神经网络算法之后的结果（信号正向传播），再根据结果来修改神经网络中的神经元强度（信号反向传播） 通过正向和反向传播来更新神经元，从而形成更好的神经系统 每一个神经元都有属于它的激活函数，在训练过程中可以通...
spark机器学习—决策树 --------仅用于个人学习知识整理和R语言/python代码整理1.前言 项目用到了spark环境下的决策树，并且使用r和python的ml下的函数，在回来的时候学习了python sklearn包。 ml下画图及找到上级节点并不方便（如有方便的方法请告知我！），加上一些自己写的寻找上级节点的code2.R部分代码实现 1. 建模及存储模型部分 这部分ml包的使用并不难，中规中矩的使用包就可以 ###rawdata---建模数据，需要是 x1 x2 x3 x4...
??????????????????????????? ?????? 安装pip install lightgbm11gitup网址：https://github.com/Microsoft/LightGBM中文教程http://lightgbm.apachecn.org/cn/latest/index.htmllightGBM简介xgboost的出现，让数据民工们告别了传统的机器学习算法们：RF、GBM、SVM、LASSO……..。现在微软推出了一个新的boosting框架，想要挑战xgboost的江湖地位。顾名思义，lightGBM包含两个关键点：light即轻量级，GBM 梯度提升机。LightGBM 是一...
图片灰度处理图片灰度处理的三种方法import numpy as np import pandas as pd from pandas import Series,DataFrame import matplotlib.pyplot as plt# 图片灰度处理三种方法 im_data = plt.imread('fj.jpg') print(im_data.shape) plt.imshow(im_data) plt.show() # 方法一 使用最大值法 im_data_1 = im_data.max(axis=2) print(im_data_1.shape) plt.imshow(im_data_1) plt.show() # 方法二 求平均值 im_data_2 = im_data.mean(a...
??????????????? 【机器学习算法实现】系列文章将记录个人阅读机器学习论文、书籍过程中所碰到的算法，每篇文章描述一个具体的算法、算法的编程实现、算法的具体应用实例。争取每个算法都用多种语言编程实现。所有代码共享至github：https://github.com/wepe/MachineLearning-Demo 欢迎交流指正！（2）logistic回归__基于Python和Numpy函数库1、算法简介本文的重点放在算法的工程实现上，关于算法的原理不具体展开，logistic回...
import scipyfrom sklearn.datasets import load_digits from sklearn.metrics import classification_report from sklearn.linear_model import LogisticRegression from sklearn.model_selection import train_test_split from sklearn.model_selection import GridSearchCV,RandomizedSearchCV#模型选择参数优化随机搜索寻优RandomizedSearchCV模型 def test_RandomizedSearchCV():测试 RandomizedSearchCV 的用法。使用 Logist...
import numpy as np from sklearn.model_selection import train_test_split,KFold,StratifiedKFold,LeaveOneOut,cross_val_score#模型选择数据集切分train_test_split模型 def test_train_test_split():X=[[1,2,3,4],[11,12,13,14],[21,22,23,24],[31,32,33,34],[41,42,43,44],[51,52,53,54],[61,62,63,64],[71,72,73,74]]y=[1,1,0,0,1,1,0,0]# 切分，测试集大小为原始数据集大小的 40%X_train, X_test, y_train, y_test = train...
from sklearn.svm import LinearSVC from sklearn.datasets import load_iris from sklearn.feature_selection import RFE,RFECV from sklearn.model_selection import train_test_split#数据预处理包裹式特征选取RFE模型 def test_RFE():iris=load_iris()X=iris.datay=iris.targetestimator=LinearSVC()selector=RFE(estimator=estimator,n_features_to_select=2)selector.fit(X,y)print("N_features %s"%selector.n_features_)pr...
from sklearn.feature_selection import VarianceThreshold#数据预处理过滤式特征选取VarianceThreshold模型 def test_VarianceThreshold():X=[[100,1,2,3],[100,4,5,6],[100,7,8,9],[101,11,12,13]]selector=VarianceThreshold(1)selector.fit(X)print("Variances is %s"%selector.variances_)print("After transform is %s"%selector.transform(X))print("The surport is %s"%selector.get_support(True))print("After reverse ...
from sklearn.feature_selection import SelectKBest,f_classif#数据预处理过滤式特征选取SelectKBest模型 def test_SelectKBest():X=[[1,2,3,4,5],[5,4,3,2,1],[3,3,3,3,3,],[1,1,1,1,1]]y=[0,1,0,1]print("before transform:",X)selector=SelectKBest(score_func=f_classif,k=3)selector.fit(X,y)print("scores_:",selector.scores_)print("pvalues_:",selector.pvalues_)print("selected index:",selector.get_support(True))pr...
from sklearn.feature_selection import SelectPercentile,f_classif#数据预处理过滤式特征选取SelectPercentile模型 def test_SelectKBest():X=[[1,2,3,4,5],[5,4,3,2,1],[3,3,3,3,3,],[1,1,1,1,1]]y=[0,1,0,1]print("before transform:",X)selector=SelectPercentile(score_func=f_classif,percentile=10)selector.fit(X,y)print("scores_:",selector.scores_)print("pvalues_:",selector.pvalues_)print("selected index:",sele...
from sklearn.preprocessing import Binarizer#数据预处理二元化Binarizer模型 def test_Binarizer():X=[[1,2,3,4,5],[5,4,3,2,1],[3,3,3,3,3,],[1,1,1,1,1]]print("before transform:",X)binarizer=Binarizer(threshold=2.5)print("after transform:",binarizer.transform(X))# 调用 test_Binarizer test_Binarizer()
from sklearn.preprocessing import OneHotEncoder#数据预处理二元化OneHotEncoder模型 def test_OneHotEncoder():X=[[1,2,3,4,5],[5,4,3,2,1],[3,3,3,3,3,],[1,1,1,1,1]]print("before transform:",X)encoder=OneHotEncoder(sparse=False)encoder.fit(X)print("active_features_:",encoder.active_features_)print("feature_indices_:",encoder.feature_indices_)print("n_values_:",encoder.n_values_)print("after transform:",...
import numpy as np import matplotlib.pyplot as pltfrom sklearn import datasets,ensemble from sklearn.model_selection import train_test_splitdef load_data_regression():加载用于回归问题的数据集#使用 scikit-learn 自带的一个糖尿病病人的数据集diabetes = datasets.load_diabetes() # 拆分成训练集和测试集，测试集大小为原始数据集大小的 1/4return train_test_split(diabetes.data,diabetes.target,test_size=0.25,r...
import numpy as np import matplotlib.pyplot as pltfrom sklearn import datasets,ensemble from sklearn.model_selection import train_test_splitdef load_data_classification():加载用于分类问题的数据集# 使用 scikit-learn 自带的 digits 数据集digits=datasets.load_digits() # 分层采样拆分成训练集和测试集，测试集大小为原始数据集大小的 1/4return train_test_split(digits.data,digits.target,test_size=0.25,random...