#机器学习分类算法的评价指标#二分类问题的算法评价指标import numpy as npimport matplotlib.pyplot as pltimport pandas as pdfrom sklearn import datasetsd=datasets.load_digits()x=d.datay=d.target.copy() #防止原来数据改变print(len(y))y[d.target==9]=1y[d.target!=9]=0print(y)print(pd.value_counts(y)) #统计各个数据出现的个数from sklearn.model_selection import train_test_splitx_train,x_test,y_train,y_test...
#向量化运算import matplotlib as mplmpl.rcParams[agg.path.chunksize] = 1000000import numpy as npimport matplotlib.pyplot as pltm=100x=np.random.random(size=m)y=x*2.0+3.0+np.random.normal(size=m) #带有噪声数据的线性相关数据plt.scatter(x,y,color="red")plt.show()#波士顿房产数据集合from sklearn import datasetsb=datasets.load_boston()print(b.DESCR)print(b.feature_names)x=b.data[:,5] #取第五列的数据，房...
一. RandomForest 1.调用1 sklearn.ensemble.RandomForestClassifier(n_estimators=’warn’, criterion=’gini’, max_depth=None, 2 min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0, max_features=’auto’, 3 max_leaf_nodes=None, min_impurity_decrease=0.0, min_impurity_split=None, bootstrap=True, 4 oob_score=False, n_jobs=None, random_state=None, verbose=0, warm_start=F...
文章目录1. 简介2. 实现思路2.1 迭代计算系数a. 梯度下降法b. 牛顿迭代法c. 拟牛顿法（BFGS2.2 Sigmoid 函数转化3. 数据尝试4. sklearn 实现4.1 参数介绍4.2 常用调用方法1. 简介 逻辑回归即考察在样本各属性值前加上一个系数后的和（类似于加权平均），通过与阈值的比较实现分类对于数据集D，样本由d个属性描述，此时我们试图学得：f(xi)=wTxi+b(1.1)f(x_i) = w^Tx_i + b \tag{1.1}f(xi?)=wTxi?+b(1.1)也就是：a0+a1x1+a2x2+?+a...
sklearn中调用PCA算法 PCA算法是一种数据降维的方法，它可以对于数据进行维度降低，实现提高数据计算和训练的效率，而不丢失数据的重要信息，其sklearn中调用PCA算法的具体操作和代码如下所示： #sklearn中调用PCA函数进行相关的训练和计算（自定义数据）import numpy as npimport matplotlib.pyplot as pltx=np.empty((100,2))x[:,0]=np.random.uniform(0.0,100.0,size=100)x[:,1]=0.75*x[:,0]+3.0*np.random.normal(0,3,size=10...
sklearn监督学习的各个模块neighbors近邻算法,svm支持向量机,kernal_ridge核岭回归,discriminant_analysis判别分析,linear_model广义线性模型 ensemble集成方法,tree决策树,native_bayes朴素贝叶斯,cross_decomposition交叉分解,gaussian_process高斯过程 neural_network多层神经网络,calibration概率校准,isotonk保序回归,feature_selection监督特征选择,multiclass多类多标签算法sklearn无监督学习模块decomposition矩阵因子分解...
官方文档参考 导入库 import matplotlib.pyplot as plt import numpy as np from sklearn import datasets,linear_model from sklearn.metrics import mean_squared_error,r2_score加载数据 diabetes=datasets.load_diabetes()## 查看数据集 >>>diabetes['data'] array([[ 0.03807591, 0.05068012, 0.06169621, ..., -0.00259226,0.01990842, -0.01764613],[-0.00188202, -0.04464164, -0.05147406, ..., -0.03949338,-0.0683297...
基本原理 Kmeans是无监督学习的代表，没有所谓的Y。主要目的是分类，分类的依据就是样本之间的距离。比如要分为K类。步骤是：随机选取K个点。 计算每个点到K个质心的距离，分成K个簇。 计算K个簇样本的平均值作新的质心 循环2、3 位置不变，距离完成距离 Kmeans的基本原理是计算距离。一般有三种距离可选：欧氏距离\[ d(x,u)=\sqrt{\sum_{i=1}^n(x_i-\mu_i)^2} \]曼哈顿距离\[ d(x,u)=\sum_{i=1}^n(|x_i-\mu|) \]余弦距离\[ cos\th...
我正在尝试建立一个scikit-learn管道来简化我的工作.我面临的问题是我不知道哪种算法(随机森林,朴素贝叶斯,决策树等)最合适,所以我需要尝试每种算法并比较结果.但管道一次只能采用一种算法吗？例如,下面的管道只接受SGDClassifier()作为算法.pipeline = Pipeline([ ('vect', CountVectorizer()), ('tfidf', TfidfTransformer()), ('clf', SGDClassifier()),])如果我想比较不同的算法,我该怎么办？我可以这样做吗？pipeline = Pipel...
KNN（K-Nearest-Neighbours Classiflication）分类算法最简单的分类算法，易于理解和实现 实现步骤：通过选取与该点距离最近的k个样本，在这k个样本中哪一个类别的数量多，就把k归为哪一类。 注意该算法需要保存训练集的观察值，以此判定待分类数据属于哪一类 k需要进行自定义，一般选取k<30 距离一般用欧氏距离，即d=(x2?x1)2+(y2?y1)2d = \sqrt{(x_2-x_1)^2 + (y_2-y_1)^2}d=(x2??x1?)2+(y2??y1?)2?通过sklearn对数据使用KNN算法...
一、K邻近算法的基本概念一个样本在特征空间中最邻近(距离)的K个样本大多数属于某一个类别，则该样本也属于这个类别。 二、sklearn使用欧氏距离实现KNN算法 # 倒入sklearn库中的KNN算法类 from sklearn.neighbors import KNeighborsClassifier# 创建KNN算法实例并设置K值 KNN_classifier = KNeighborsClassifier(n_neighbors=4)# 传入训练样本数据拟合KNN模型 KNN_classifier.fit(train_x, train_y)# 传入测试样本数据进行预测，并...
传统的机器学习任务从开始到建模的一般流程是：获取数据 -> 数据预处理 -> 训练建模 -> 模型评估 -> 预测，分类。本文我们将依据传统机器学习的流程，看看在每一步流程中都有哪些常用的函数以及它们的用法是怎么样的。希望你看完这篇文章可以最为快速的开始你的学习任务。1. 获取数据 1.1 导入sklearn数据集sklearn中包含了大量的优质的数据集，在你学习机器学习的过程中，你可以通过使用这些数据集实现出不同的模型，从而提高你的...
#从数据集中导入鸢尾花数据import numpy as npfrom sklearn.datasets import load_irisiris =load_iris()x = iris.data[:,1]y =np.zeros(150) #1） 选取数据空间中的K个对象作为初始中心，每个对象代表一个聚类中心；def initcenter(x,k): #初始聚类中心数组 return x[0:k].reshape(k) #2）将各个数据分到距离它们最近的聚类中心（最相似）所对应的类def nearest(kc,i): #数组中的值，与聚类中心最小距离所在类别的索引号 d...
import numpy as np x=np.random.randint(1,100,[20,1]) #在1-100范围中产生20行1列的随机数组 y=np.zeros(20) k=3#取数据中k个对象为初始中心,每个对象代表一个聚类中心 def initcenter(x,k): return x[:k] kc=initcenter(x,k) kc#对于样本中的数据对象，根据它们与这些聚类中心的欧氏距离，按距离最近的准则将它们分到距离它们最近的聚类中心（最相似）所对应的类； def nearest(kc,i): #数组中的值，与...
import numpy as np from sklearn.datasets import load_iris iris = load_iris() x=iris.data[:,1] y=np.zeros(150) k=3def initcent(x,k):return x[0:k].reshape(k)def nearest(kc,i):#数组中的值，与聚类中心最小距离所在类型的索引号d=(abs(kc-i))w=np.where(d == np.min(d))return w[0][0]def kcmean(x,y,kc,k): #计算各聚类新均值l=list(kc)flag= Falsefor c in range(k):print(c)m=np.where(y == c)# print(m,x[m])n = np.m...