一：参考资料 （一）机器学习实战或者见https://blog.csdn.net/qq_36523839/article/details/82191677 （二）Apriori算法是什么？适用于什么情境？（更好的理解关联规则） （三）python中set和frozenset方法和区别 二：实现Apriori算法中的辅助函数 （一）加载数据#1.加载数据 def loadDataSet():return [[1,3,4],[2,3,5],[1,2,3,5],[2,5]] #模拟了多个（4）订单，每个订单中购买了不同的商品（二）创建C1集合，是对各个订单数据...
点击获取书籍提取码：adv5内容提要 在学习和研究机器学习的时候，面临令人眼花缭乱的算法，机器学习新手往往会不知 所措。本书从算法和Python语言实现的角度，帮助读者认识机器学习。 本书专注于两类核心的“算法族"，即惩罚线性回归和集成方法，并通过代码实例来 展示所讨论的算法的使用原则。全书共分为7章，详细讨论了预测模型的两类核心算法、 预测模型的构建、惩罚线性回归和集成方法的具体应用和实现。 本书主要针对想提高机...
K近邻算法（KNN，K-NearestNeighbor）是机器学习或数据分析中最基础、也是最简单的算法之一，这个算法的思路就如同它字面上的意思“K个最近的邻居”，想要得到某个样本的某个特征的值（一个样本通常有多个特征），就需要找到距离它最近的K个样本，然后根据这些样本的该特征的近似值作为它的特征值。 样本和特征：通常来讲，可以理解为一个表格数据中一行数据为一个样本，一列数据为这个样本的一个特征，就像数据库中的记录和字段的...
分布式机器学习：算法、理论与实践——【1】 分布式机器学习：算法、理论与实践 2）——【2】 《分布式机器学习：算法、理论与实践》——【RE3】 《分布式机器学习：算法、理论与实践》——【RE4】 《分布式机器学习：算法、理论与实践》——【RE5】 《分布式机器学习：算法、理论与实践》——【RE6】 《分布式机器学习：算法、理论与实践》——【RE1】 《分布式机器学习：算法、理论与实践》——【RE2】 《分布式机器学习：算法、...
阿里算法面经概况流程及面试过程4.29 笔试、测评5.7~5.11 技术面（三轮）5.12 交叉面5.23 HR 面5.24 终面6.1 收到实习意向书结语 概况2020 春招，已拿到实习 offer； 本人研一（两年制专硕），研究方向为物联网 + 强化学习； 被阿里本地生活的风控部门捞了简历； 4月底投简历并完成笔试，5月整个月完成 3 技术面 + 1 交叉面 + 1 HR 面 + 1 终面； 基础问得较少，侧重对项目经历的考查（因人而异，简历写了什么就问什么），因此本文...
目录 1.引言 2.决策树 2.1 决策树与if-then规则 2.2 决策树与条件概率分布 2.3 决策树学习 3.特征选择 4.决策树生成 4.1 ID3生成算法 4.2 C4.5生成算法 5.决策树剪枝 5.1剪枝算法 6.CART算法 6.1 CART回归树生成树 6.2 最小二乘法回归树 6.3 CART分类树生成 6.3.1 基尼指数 6.3.2 CART分类树生成 6.3.3 CART剪枝 6.3.4 CART剪枝流程 7.代码实现 1.引言 决策树（decision tree）是一种分类与回归的方法，顾名思义，决策树呈树形结构...
算法原理 朴素贝叶斯是经典的机器学习算法之一，也是为数不多的基于概率论的分类算法。朴素贝叶斯原理简单，也很容易实现，多用于文本分类，比如垃圾邮件过滤。 该算法的优点在于简单易懂、学习效率高、在某些领域的分类问题中能够与决策树、神经网络相媲美。 但由于该算法以自变量之间的独立（条件特征独立）性和连续变量的正态性假设为前提，就会导致算法精度在某种程度上受影响。 marco 博客https://www.cnblogs.com/marc01in/p...
1.KNN 分类算法 由于knn算法涉及到距离的概念，KNN 算法需要先进行归一化处理 1.1 归一化处理 scalerfrom sklearn.preprocessing import StandardScalerstandardScaler =StandardScaler()standardScaler.fit(X_train) X_train_standard = standardScaler.transform(X_train) X_test_standard = standardScaler.transform(X_test)归一化之后送入模型进行训练from sklearn.neighbors import KNeighborsClassifierknn_clf = KNeighbor...
考试周终于结束继续来学mooc～～ 1.介绍 2.代码 import numpy as np import sklearn.cluster as skc from sklearn import metrics #距离计算方式 import matplotlib.pyplot as pltmac2id = dict() onlinetimes = [] f = open(/Users/helong/PycharmProjects/untitled1/study/machine_learning/聚类/学生月上网时间分布-TestData.txt, encoding=utf-8) f...
机器学习 集成学习篇——python实现Bagging和AdaBOOST算法摘要Bagging算法Adaboost算法 摘要 本文通过python实现了集成学习中的Bagging和AdaBOOST算法，并将代码进行了封装，方便读者调用。 Bagging算法 import numpy as np import pandas as pd class Cyrus_bagging(object):def __init__(self,estimator,n_estimators = 20):self.estimator = estimatorself.n_estimators = n_estimatorsself.models = Nonedef fit(self,x,y):x =...
文章迁移说明：此文已由lightinglei于2019-02-18发布，是本人的另外一个账号，现同步迁移至本账号 一、正规方程、梯度下降原理介绍 正规方程： 先了解下线性模型，假设我们依据消费者的年龄、性别、职业3个特征来判断是否会进行购物消费，令x1代表年龄、x2代表性别、x3代表职业，则我们可以引入一个预测函数来判断是否会进行消费：f(x)=w1x1+w2x2+w3+w3x3+b，将其转化为向量的形式为： （公式一），其中w=(w1,w2,w3)， b为常数 假...
信息增益比 首先，我们来看信息增益的问题。前面说了，如果我们单纯地用信息增益去筛选划分的特征，那么很容易陷入陷阱当中，选择了取值更多的特征。 针对这个问题，我们可以做一点调整，我们把信息增益改成信息增益比。所谓的信息增益比就是用信息增益除以我们这个划分本身的信息熵，从而得到一个比值。对于分叉很多的特征，它的自身的信息熵也会很大。因为分叉多，必然导致纯度很低。所以我们这样可以均衡一下特征分叉带来的偏差...
重要参数n_components n_components是我们降维后需要的维度，即降维后需要保留的特征数量，降维流程中第二步里需要确认的k值，一般输入[0, min(X.shape)]范围中的整数。一说到K，大家可能都会想到，类似于KNN中的K和随机森林中的n_estimators，这是一个需要我们人为去确认的超参数，并且我们设定的数字会影响到模型的表现。如果留下的特征太多，就达不到降维的效果，如果留下的特征太少，那新特征向量可能无法容纳原始数据集中的大...
**什么是人工智能、机器学习与深度学习? ** 人工智能的简洁定义如下:努力将通常由人类完成的智力任务自动化。 机器学习指自我学习执行特定任务。他和深度学习的核心问题都在于有意义地变换数据。 深度学习是机器学习的一个分支领域 : 它是从数据中学习表示的一种新方法，强调从连续的层(layer)中进行学习。作为入门学习者，经常搞混一些概念和层级，在本篇文章中将梳理一下这些层级关系，简述各个算法的大概内容，建立起框架性的理...
目标检测是计算机视觉领域的传统任务，需要识别出图像上存在的物体，给出对应的类别，并将该物体的位置通过最小包围框（Bounding box）的方式给出。下面介绍2D目标检测任务的常用评价指标。 IoU（Intersection over Union）定义：交并比，两个矩形框交集的面积与并集的面积之比 范围：0~100% 用途：判断两个矩形框的重叠程度，值越高则重叠程度越高，即两个框越靠近 IoU 和 Overlap Rate 定义是完全相同的，只不过在检测任务中常写...