?R2是一个回归模型的评价标准，也叫作决定系数，位于0~1之间，越接近1表示预测效果越好 训练集和数据集的分数非常接近，说明可能存在欠拟合 训练集的分数很好但测试集的分数不好，说明存在过拟合 ?线性回归（普通最小二乘法 OLS）： 寻找w和b，使得训练集的预测值与真实的回归目标值之间的均方误差最小。（均方误差：预测值与真实值之差的平方和除样本数） ?岭回归（ridge regression）: 对系数w的选择： ?在训练集上有好的预测...
决策树 理论基础 决策树是建立在信息论的基础上的，决策树的生成就是让数据的"不确定性"减少越多越好，意味着划分能获得越多的信息。信息的不确定性可以用信息熵和基尼指数来描述。 信息熵 信息熵的定义其实也比较简单： H(y)=∑k=1Kpklog?pk(信息熵公式)H(y)=\sum_{k=1}^Kp_k\log p_k\tag{信息熵公式}H(y)=k=1∑K?pk?logpk?(信息熵公式)对于具体的、随机变量来说，生成的数据集D={y1,...,yN}D=\{y_1,...,y_N\}D={y1?,...,yN?},在实...
线性回归#11;第一个机器学习算法 - 单变量线性回归
什么是感知机 公式文字我也就不复现了，网上简直多如牛毛 （1）推荐看李航博士的《统计学习方法》 （2）或：https://www.jianshu.com/p/c91087e6e1ea（篇幅略小，简单了解） 第二篇文章篇幅较小，但基本介绍清楚了感知机的原始形式，想要进一步了解感知机的对偶形式，可自行搜索资料 以上两个推荐中，都是以两特征数据来分类的，也就是数据点和超平面可以在二维坐标系中呈现 于是我的代码也是如此，代码的可扩展性还是很大的，想要...
多变量线性回归（深度之眼学习笔记） 代价函数 J(θ)=12m∑i=1m(hθ(x(i))?y(i))2J\left( \theta \right)=\frac{1}{2m}\sum\limits_{i=1}^{m}{{{\left( {{h}_{\theta }}\left( {{x}^{(i)}} \right)-{{y}^{(i)}} \right)}^{2}}}J(θ)=2m1?i=1∑m?(hθ?(x(i))?y(i))2 假设函数 hθ(x)=θTX=θ0x0+θ1x1+θ2x2+...+θnxn{{h}_{\theta }}\left( x \right)={{\theta }^{T}}X={{\theta }_{0}}{{x}_{0}}+{{\theta }_{1}}{{x}_{1}}+{{\the...
【摘要】 介绍Ubuntu 18.04环境下Python3常用科学计算和数据分析包(numpy, scipy, matplotlib, sklearn, pandas)的安装，以及Jupyter Notebook的安装和使用 1. 基础环境 2vCPUs | 4GB | kc1.large.2 Ubuntu 18.04 64bit with ARM 确保已经安装了gcc, cmake 2. Python 3.x验证 Ubuntu 18.04已经自带了Python 3.x版本，可通过运行： python3 --version来查看其对应的版本号，默认情况下是3.6.8版本。 请注意如果运行 python --versio...
线性回归（深度之眼学习笔记） 1、单变量线性回归代价函数 import numpy as np import pandas as pd import matplotlib.pyplot as plt import random path = 'ex1data1.txt' data = pd.read_csv(path, header=None, names=['Population', 'Profit']) data.head() #预览数据 #看数据的趋势，散点图 data.plot(kind='scatter', x='Population', y='Profit', figsize=(12,8)) plt.show() '''(adsbygoogle = window.adsbygoogle || [...
文章目录1.TensorFlow2.Scikit-Learn3.NumPy4.Keras5.PyTorch6.LightGBM7.Eli58.SciPy9.Theano10.Pandas 随着人工智能技术的发展与普及，Python超越了许多其他编程语言，成为了机器学习领域中最热门最常用的编程语言之一。有许多原因致使Python在众多开发者中如此受追捧，其中之一便是其拥有大量的与机器学习相关的开源框架以及工具库。本文就介绍几种机器学习的库。 1.TensorFlowTensorFlow是什么该库是 Google 与 Brain Team 合作...
总览通过一些基本概念入门机器学习领域统计学，人工智能，深度学习和数据挖掘是机器学习中使用的其他技术词汇中的少数了解不同类型的机器学习算法 介绍 近年来，人们对机器学习有了新的兴趣。这种复苏似乎是由强大的基础驱动的–全球各地的传感器正在以低廉的存储成本和最低的计算成本发射大量数据！ 但是，并非每个人都了解什么是机器学习。这里有一些例子：什么是机器学习，它与大数据和业务分析有何不同？机器学习，数据分析，...
5 步入门和精通机器学习 我教了一个5步骤的过程，您可以用来开始应用机器学习。 这是非常规的。 传统的机器学习教学方法是自下而上的。 从理论和数学开始，然后是算法实现，然后送您开始研究如何开始解决实际问题。机器学习的传统入门方法在从业者的道路上存在空白。 机器学习精通的方法可以解决这一问题，并从最有价值的结果开始。 它针对企业要付费的结果： 如何交付结果。 可以可靠地进行预测的一组预测或模型形式的结果。 这是...
人工智能是计算机行业非常流行的领域，随着人工智能的崛起，Python作为该领域的首选编程语言变得更加受关注了，在人工智能领域Python趋势是非常大的，发展前景良好。那么为什么机器学习会选择Python语言呢?原因很简单，为大家简单的介绍一下吧。Python程序语言与机器学习结合，可以说是强强联合的，使用Python撰写机器学习具备以下几点优势：1、方便调试的解释型语言：Python是一门解释型的编程语言，与Java比较相似，源代码都是通...
假设现在有一些数据点，我们用 一条直线对这些点进行拟合（该线称为最佳拟合直线），这个拟合过程就称作回归。利用Logistic回归进行分类的主要思想是：根据现有数据对分类边界线建立回归公式，以此进行分类。这里的 “ 回归” 一词源于最佳拟合，表示要找到最佳拟合参数集。 训练分类器时的做法就是寻找最佳拟合参数，使用的是最优化算法。 基于Logistic回归和Sigmoid函数的分类 import sys from pylab import *t = arange(-60...
解决策树如何预测患者需要佩戴的隐形眼镜类型。使用小数据 集，我们就可以利用决策树学到很多知识：眼科医生是如何判断患者需要佩戴的镜片类型；一旦 理解了决策树的工作原理，我们甚至也可以帮助人们判断需要佩戴的镜片类型。 隐 形 眼 镜 数 据 集 是 非 常 著 名 的 数 据 集 ，它 包 含 很 多 患 者 眼 部 状 况 的 观 察 条 件 以 及 医 生 推 荐 的 隐 形 眼 镜 类 型 。隐 形 眼 镜 类 型 包 括 硬 材 质 、软 材 质...
在约会网站使用K-近邻算法 准备数据：从文本文件中解析数据 海伦收集约会数据巳经有了一段时间，她把这些数据存放在文本文件(1如1^及抓 比加 中，每 个样本数据占据一行，总共有1000行。海伦的样本主要包含以下3种特征： 每年获得的飞行常客里程数 玩视频游戏所耗时间百分比 每周消费的冰淇淋公升数 将文本记录到转换NumPy的解析程序import operator from numpy import * from os import listdirdef file2matrix(filename):fr...
k-近邻算法概述 简单地说，谷近邻算法采用测量不同特征值之间的距离方法进行分类。 优 点 ：精度高、对异常值不敏感、无数据输入假定。 缺点：计算复杂度高、空间复杂度高。 适用数据范围：数值型和标称型。它的工作原理是：存在一个样本数 据集合，也称作训练样本集，并且样本集中每个数据都存在标签，即我们知道样本集中每一数据 与所属分类的对应关系。输人没有标签的新数据后，将新数据的每个特征与样本集中数据对应的 特征...