In?[1]:?? ? ? ?from sklearn import datasets??In?[2]:?? ? ? ?boston = datasets.load_boston() X = boston.data y = boston.target #去除不真实的数据 X = X[y < 50] y = y[y < 50] ???In?[3]:?? ? ? ?from sklearn.model_selection import train_test_split #载入数据切分工具??In?[5]:?? ? ? ?X_train, X_test, y_train, y_test = train_test_split(X,y,test_size = 0.2,random_state=666) #切分数据??In?[6]:?? ? ? ?from...
一、逻辑回归 1.1 原理 将线性回归的结果通过sigmod函数映射到0到1之间，如果结果越接近0或者1，说明分类结果的可信度越高，对于线性不可分的数据，可以对非线性函数进行线性加权，得到一个不是超平面的分割面。 在进行分类时，通过比较上面两式的大小来将输入实例分配到概率值大的那一类。 本质上是线性函数 1.2 目标函数: 交叉熵损失函数/负对数似然函数 1.3 梯度迭代公式： 1.4 优缺点 优点： 1 ) 形式简单，模型的可解...
理解 以a b为变量，预测值与真值的差的平方和为结果的函数 参数学习的基本方法：找到最优参数使得预测与真实值差距最小 假设可以找到一条直线 y = ax+b 使得预测值与真值的差的平方和最小 故事 假设你面前有一堆男人 这些男人的基本信息全部掌握，包括他们的年收入 简单线性回归 简单线性回归的思想就是：假设你相信，这些男人的身高越高，年收入越高，然后找到一个一元线性方程 ，让这个方程猜得最准，然后 把这个方程记...
import numpy as np from sklearn import datasets# 载入数据包??In?[2]:?? ? ? ?digits = datasets.load_digits()#读取数据 X = digits.data#定义X y = digits.target#定义y??In?[3]:?? ? ? ?from sklearn.model_selection import train_test_split #载入数据切分工具??In?[4]:?? ? ? ?X_train, X_test, y_train, y_test = train_test_split(X,y,test_size = 0.2)#数据切分???Signature: train_test_split(arrays, *options) Docs...
1 项目介绍 基于k-近邻分类器(KNN)的手写识别系统, 这里构造的系统只能识别数字0到9。 数据集和项目源代码难点： 图形信息如何处理? 图像转换为文本格式2 准备数据 将图像转换为测试向量训练集：目录trainingDigits 大约2000个例子 每个数字大约有200个样本;测试集目录testDigits 大约900个测试数据。将图像格式化处理为一个向量。我们将把一个3232的二进制图像矩阵转换为11024的向量, 如下图所示，import numpy as np def img2vec...
成为一名合格的开发工程师不是一件简单的事情，需要掌握从开发到调试到优化等一系列能力，这些能力中的每一项掌握起来都需要足够的努力和经验。 而要成为一名合格的机器学习算法工程师（以下简称算法工程师）更是难上加难，因为在掌握工程师的通用技能以外，还需要掌握一张不算小的机器学习算法知识网络。 下面我们就将成为一名合格的算法工程师所需的技能进行拆分，一起来看一下究竟需要掌握哪些技能才能算是一名合格的算法工程师...
目录 简介 决策树简单用法 决策树检测P0P3爆破 决策树检测FTP爆破 随机森林检测FTP爆破 简介 决策树和随机森林算法是最常见的分类算法； 决策树，判断的逻辑很多时候和人的思维非常接近。 随机森林算法，利用多棵决策树对样本进行训练并预测的一种分类器，并且其输出的类别是由个别决策树输出的类别的众数决定。 决策树简单用法 使用sklearn自带的iris数据集# -*- coding: utf-8 -*- from sklearn.datasets import load_iris fro...
Isolation，意为孤立/隔离，是名词，其动词为isolate，forest是森林，合起来就是“孤立森林”了，也有叫“独异森林”，好像并没有统一的中文叫法。可能大家都习惯用其英文的名字isolation forest，简称iForest 。iForest适用于连续数据（Continuous numerical data）的异常检测，将异常定义为“容易被孤立的离群点（more likely to be separated）”——可以理解为分布稀疏且离密度高的群体较远的点。用统计学来解释，在数据空间里...
Python机器学习 学习意味着通过学习或经验获得知识或技能。基于此，我们可以定义机器学习（ML）如下 - 它可以被定义为计算机科学领域，更具体地说是人工智能的应用，其为计算机系统提供了学习数据和从经验改进而无需明确编程的能力。 基本上，机器学习的主要焦点是允许计算机自动学习而无需人为干预。现在问题是如何开始和完成这种学习？它可以从数据的观察开始。数据可以是一些示例，指令或一些直接经验。然后在此输入的基础上，通...
机器学习导图系列教程旨在帮助引导开发者对机器学习知识网络有一个系统的概念，其中有些具体释义并未完善，需要开发者自己探索才能对具体知识有深入的掌握。本项目灵感来自Daniel Formoso的github开源项目。本文作者对其项目进行翻译、整理、批注等二次创作，其中不乏生僻的数学名词，对于没有留过学的作者来说费了很多功夫。我又将导图整理成了知识卡片，方便大家查看。由于机器学习的知识网络很大，导致完整的导图过大，文章中的...
这里介绍的略简单了一些，稍后会补上 K-NN k近邻算法是一种简单但也最常用的分类算法，他也可以应用于回归计算。K-NN是无参数学习，它是基于实例并在一个有监督的学习环境中使用。 K–算法的工作原理 k-NN 用于分类是，输出是一个类别，这种方法有三个关键因素：一组标记的对象，例如：一组已存储的记录、对象之间的距离以及k的值-最近邻的数量 做出预测 若要对未标记的对象进行分类，则会计算出该对象标记的对象之间的距离，确定其...
机器学习介绍机器学习的概念 机器学习要解决的问题分类 使用机器学习解决问题的一般性步骤什么是机器学习机器学习是一个计算机程序，针对某个特定的任务 ，从经验中学习，并且越做越好。 谁掌握的数据量大 、质量高，谁就占据了机器学习和人工智能领域最有利的资本。 机器学习有什么用 语音识别、自然语言处理、人脸识别系统等等 机器学习的分类 有监督学习(Supervised learning)---通过大量已知的输入和输出相配对的数据，让计算机...
机器学习算法第十篇 主要内容:决策树算法+CART(回归树) \ CART算法概念 CART(classification and regression tree) 故英文名思意:分类和回归树. CART算法包含决策树生成和决策树剪枝两部分 CART决策生成树部分主要分为生成回归树和生成分类树 本篇主要讲生成回归树 \ \ 算法目的 构建一棵可以对输入样本进行很好预测,并输出预测值的二叉决策回归树 \ \ 算法前提假设 单个叶子节点所有样本的预测值与真实值之差的...
1. 线性回归 在统计学和机器学习领域，线性回归可能是最广为人知也最易理解的算法之一。 预测建模主要关注的是在牺牲可解释性的情况下，尽可能最小化模型误差或做出最准确的预测。我们将借鉴、重用来自许多其它领域的算法（包括统计学）来实现这些目标。 线性回归模型被表示为一个方程式，它为输入变量找到特定的权重（即系数 B），进而描述一条最佳拟合了输入变量（x）和输出变量（y）之间关系的直线。 线性回归 例如： y = B0 + ...
相信大家都知道，机器学习中有很多的算法，我们在进行机器学习知识学习的时候一定会遇到过很多的算法，而机器学习中的SVM算法和聚类算法都是比较重要的，我们在这篇文章中就重点给大家介绍一下这两种算法，希望这篇文章能够帮助大家理解这两种算法。 机器学习算法——SVM 提道机器学习算法就不得不说一说SVM，这种算法就是支持向量机，而支持向量机算法是诞生于统计学习界，这也是机器学习中的经典算法，而支持向量机算法从某种意义...