目录 1、线性回归简介1.1 线性回归应用场景1.2 什么是线性回归1.2.1 定义与公式1.2.2 线性回归的特征与目标的关系分析2、线性回归api初步使用2.1 线性回归API2.2 举例2.2.1 步骤分析2.2.2 代码过程3、线性回归的损失和优化3.1 损失函数3.2 优化算法3.2.1 正规方程（1）什么是正规方程（2）正规方程求解举例 3.2.2 正规方程的推导 **推导方式一**：**推导方式二**：3.2.2 梯度下降(Gradient Descent)（1）什么是梯度下降（2）梯度的...
常用的三种线性模型算法–线性回归模型、岭回归模型、套索回归模型 线性模型基本概念 线性模型的一般预测模型是下面这个样子的，一般有多个变量，也可以称为多个特征x1、x2、x3 … 最简单的线性模型就是一条直线直线的方程式，b0是截距，b1是斜率 比如说我们的画一条直线：y=0.5*x+3，他是最简单的线性模型 import numpy as np import matplotlib.pyplot as plt #生成-5到5的元素数为100的数组 x=np.linspace(-5,5,100) #输入直...
**机器学习基础**一元线性回归算法 1. 介绍 一元线性回归分析预测法，是根据自变量x和因变量y的相关关系，建立x与y的线性回归方程进行预测的方法。由于市场现象一般是受多种因素的影响，而并不是仅仅受一个因素的影响。所以应用一元线性回归分析预测法，必须对影响市场现象的多种因素做全面分析。只有当诸多的影响因素中，确实存在一个对因变量影响作用明显高于其他因素的变量，才能将它作为自变量，应用一元相关回归分析市场预测法...
本文用python实现线性回归算法 # -*- coding: utf-8 -*- """ Created on Fri Oct 11 19:25:11 2019 """from sklearn import datasets, linear_model # 引用 sklearn库，主要为了使用其中的线性回归模块# 创建数据集，把数据写入到numpy数组 import numpy as np # 引用numpy库，主要用来做科学计算 import matplotlib.pyplot as plt # 引用matplotlib库，主要用来画图 data = np.array([[152,51],[156,53],[160,54],[164,55],[16...
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理 最基本的机器学习算法必须是具有单个变量的线性回归算法。如今，可用的高级机器学习算法，库和技术如此之多，以至于线性回归似乎并不重要。但是，学习基础知识总是一个好主意。这样，您将非常清楚地理解这些概念。在本文中，我将逐步解释线性回归算法。 ? 想法和公式 线性回归使用非常基本的预测思想。公式如下： Y = C + BX 我...
01.简介 概念 线性回归(Linear regression)是利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。特点：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归 使用场景 房价预测销售额度预测贷款额度预测 02.入门案例 基本步骤 导入依赖准备数据数据基本处理特征工程机器学习模型评估 示例：假设知道一组学生的平时成绩和期末考试成绩及最终成绩，现在有一个新的同学...
1、什么是回归算法 回归算法是监督型算法的一种，通过利用测试集数据来建立模型，再利用这个模型训练集中的数据进行处理的算法。线性回归旨在寻找到一根线，这个线到到达所有样本点的距离的和是最小的。常用在预测和分类领域。 2、回归和分类的区别： 3、机器学习回归算法可以干什么？ （1）房价预测 （2）销售额预测 （3）贷款额度预测 4、线性回归的定义： 5、损失函数： 6、最小二乘法指正规方程二、思考线性回归算法可...
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性 回归算法的含义： 线性回归的含义： 2.思考线性回归算法可以用来做什么？（大家尽量不要写重复） 答：线性回归的预测模型虽然是一元（线性）方程，但现实中很多应用场景符合这个模型，例如商品的价格与商品的销量之间的关系。 3.自主编写线性回归算法 ，数据可以自己造，或者从网上获取。（加分题） 数据：中财网爬取 线性回归代码:print...
参数优化方案 w参数的调整方向和幅度？ 梯度下降法指导w的调参 比如图中，w1往小调整，w0往大调整，才能使得误差函数向极小值方向走 上图可以拆解为两个图，一个是w0与J的图，一个是w1与J的图。以w0与J的图距离说明 由于误差函数是凹函数，如下图， 在极小值左侧，导数小于0； 在极小值右侧，导数大于0 如果导数小于0，w点应该往大调整； 如果导数大于0，w点应该往小调整 w0调整的公式为： 阿尔法是学习率 导数的正负决定...
线性回归算法的原理及参数优化方案 简单的线性回归算法 y = w0 + w1x x = 1 ，y = 2 x = 2 ，y = 3 两点确定一条直线，可以求得w0 和 w1 如果给了3组数据，可不可以准确求得w0 和 w1 x = 1 ，y = 2 x = 2 ，y = 3 x = 3 ，y = 5 由于这3点不在一条直线，所以不能准确求得w0 和 w1。这道错题其实是一个机器学习问题 如果给了3亿组数据，不在一条直线上，如果找到一条完美直线，使得误差最小 3亿组数据找到规律，规律就是w参...
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性机器学习里的监督学习分为回归和分类。回归是连续型的，分类是离散型的。回归又分为线性回归，logistic回归和回归评估。 一元线性回归 公式：y=ax+b最小二乘法一般来说，线性回归都可以通过最小二乘法求出其方程，可以计算出对于y=bx+a的直线。 梯度下降 2.思考线性回归算法可以用来做什么？（大家尽量不要写重复）预测流行病学、经济学和金融...
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性 2.思考线性回归算法可以用来做什么？（大家尽量不要写重复） 3.自主编写线性回归算法 ，数据可以自己造，或者从网上获取。（加分题）
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性 （1）有监督：训练数据集必须是有标记，然后通过给定的训练数据和特定的算法去构造一个模型。 无监督：训练数据集没有标记，去寻找训练数据中隐藏的模式或者是对数据进行分组。 （2）线性回归的定义：通过一个或多个自变量或因变量进建模的回归方法，其中可以为一个或多个自变量之间的线性组合。（一维、二维、三维空间） （3）矩阵：矩阵的乘法（4）...
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性 2.思考线性回归算法可以用来做什么？（大家尽量不要写重复） 用来预测气温，天气，未来人口。 3.自主编写线性回归算法 ，数据可以自己造，或者从网上获取。（加分题
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性 2.思考线性回归算法可以用来做什么？（大家尽量不要写重复） 地方房价预测、电影票房预测等等