文章目录 4. 回归算法 回归算法 4. 回归算法 回归算法 回归是统计学中最有力的工具之一。机器学习监督学习算法分为分类算法和回归算法两种，其实就是根据类别标签分布类型为离散型、连续性而定义的。回归算法用于连续型分布预测，针对的是数值型的样本，使用回归，可以在给定输入的时候预测出一个数值，这是对分类方法的提升，因为这样可以预测连续型数据而不仅仅是离散的类别标签。 回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。如果回归分析中包括两个或两个以上的自变量，且因变量和自变量之间是线性关系，则称为多元...

4.1. 回归算法之线性回归 回归算法之线性回归 线性回归的定义是：目标值预期是输入变量的线性组合。线性模型形式简单、易于建模，但却蕴含着机器学习中一些重要的基本思想。线性回归，是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。 优点：结果易于理解，计算不复杂 缺点：对非线性的数据拟合不好 适用数据类型：数值型和标称型 对于单变量线性回归，例如：前面房价例子中房子的大小预测房子的价格。f(x) = w1*x+w0，这样通过主要参数w1就可以得出预测的值。 通用公式为： h\left(\theta\right...

文章目录 4.2. 线性回归案例分析 线性回归案例分析 波士顿房价预测 4.2. 线性回归案例分析 线性回归案例分析 波士顿房价预测 使用scikit-learn中内置的回归模型对“美国波士顿房价”数据进行预测。对于一些比赛数据，可以从kaggle官网上获取，网址：https://www.kaggle.com/datasets 1.美国波士顿地区房价数据描述 from sklearn.datasets import load_boston boston = load_boston() print boston.DES...

文章目录 4.3. 回归性能评估与欠拟合、过拟合 欠拟合与过拟合 解决过拟合的方法 欠拟合 过拟合 4.3. 回归性能评估与欠拟合、过拟合 欠拟合与过拟合 机器学习中的泛化，泛化即是，模型学习到的概念在它处于学习的过程中时模型没有遇见过的样本时候的表现。在机器学习领域中，当我们讨论一个机器学习模型学习和泛化的好坏时，我们通常使用术语：过拟合和欠拟合。我们知道模型训练和测试的时候有两套数据，训练集和测试集。在对训练数据进行拟合时，需要照顾到每个点，而其中有一些噪点，当某...

4.4. 回归算法之岭回归 文章目录 4.4. 回归算法之岭回归 回归算法之岭回归 sklearn.linear_model.Ridge 方法 属性 回归算法之岭回归 具有L2正则化的线性最小二乘法。岭回归是一种专用于共线性数据分析的有偏估计回归方法，实质上是一种改良的最小二乘估计法，通过放弃最小二乘法的无偏性，以损失部分信息、降低精度为代价获得回归系数更为符合实际、更可靠的回归方法，对病态数据的拟合要强于最小二乘法。当数据集中存在共线性的时候，岭回归就...

文章目录 4.5. 岭回归案例分析 岭回归案例分析 4.5. 岭回归案例分析 岭回归案例分析 def linearmodel(): """ 线性回归对波士顿数据集处理 :return: None """ # 1、加载数据集 ld = load_boston() x_train,x_test,y_train,y_test = train_test_split(ld.data,ld.target,test_size=0.25) # 2、标准化处理 ...

文章目录 5. 非监督学习 非监督学习 5. 非监督学习 非监督学习 从本节开始，将正式进入到无监督学习（Unsupervised Learning）部分。无监督学习，顾名思义，就是不受监督的学习，一种自由的学习方式。该学习方式不需要先验知识进行指导，而是不断地自我认知，自我巩固，最后进行自我归纳，在机器学习中，无监督学习可以被简单理解为不为训练集提供对应的类别标识（label），其与有监督学习的对比如下： 有监督学习（Supervised Learning）下的训练集： (x(1),y(1)),(x(2),y2)(x(1),y(1)),(x(2),y2)...

文章目录 5.1. 非监督学习之k-means 非监督学习之k-means sklearn.cluster.KMeans 方法 属性 k-means ++ 5.1. 非监督学习之k-means 非监督学习之k-means K-means通常被称为劳埃德算法，这在数据聚类中是最经典的，也是相对容易理解的模型。算法执行的过程分为4个阶段。 1.首先，随机设K个特征空间内的点作为初始的聚类中心。 2.然后，对于根据每个数据的特征向量，从K个聚类中心中寻找距离...

文章目录 5.2. k-means案例分析 k-means案例分析 手写数字数据上K-Means聚类的演示 5.2. k-means案例分析 k-means案例分析 手写数字数据上K-Means聚类的演示 from sklearn.metrics import silhouette_score from sklearn.cluster import KMeans def kmeans(): """ 手写数字聚类过程 :return: None """ ...

文章目录 6. 推荐系统 推荐系统 什么是推荐系统 个性化推荐系统的应用 6. 推荐系统 推荐系统 在研究如何涉及推荐系统之前，了解什么是好的推荐系统至关重要。 什么是推荐系统 如果想买牛肉，你有多少种方法？假设附近有一个24小时便利店，你可以走进店里，看看所有的货架，转一圈找到牛肉，然后比较几个牌子的口碑或者价格找到自己喜欢的牌子，掏钱付款。如果附近有宜家沃尔玛，你可以走进店里，按照分类指示牌走到食品2所在的楼层，接着按照指示牌找到卖干果的货架，然后在货架上仔细寻找你需要的牛肉，找到后付款。如果你很懒，不想出门，...

文章目录 6.1. 推荐系统评测 推荐系统评测 推荐系统的实验方法 评测指标 6.1. 推荐系统评测 推荐系统评测 什么才是好的推荐系统？这是推荐系统需要解决的首要问题。一个完整的推荐系统一般存在3个参与方：用户、物品系统者和提供推荐系统的网站。 推荐系统的实验方法 在介绍推荐系统的指标之前，首先看一下获取这些指标的主要实验方法。主要有3种：即离线实验、用户调查和在线实验 1.离线实验 离线实验的方法一般由如下几个步骤组成 （1）通过日志系统获取用户行为数据，并按照一定格式生成一个标准的数据集 （2）将数据集按照...

文章目录 6.2. 基于协同过滤的推荐系统 基于协同过滤的推荐系统 用户行为数据简介 用户行为分析 基于物品的协同过滤算法 思考 6.2. 基于协同过滤的推荐系统 基于协同过滤的推荐系统 为了让推荐结果符合用户口味，我们需要深入了解用户和物品。用户的兴趣是不断变化的，但用户不会不停的更新兴趣描述。最后，很多时候用户并不知道自己喜欢什么，或者很难用语言描述自己喜欢什么，因此，我们需要通过算法自动发觉用户行为数据，从用户的行为中推测用户的兴趣，从而给用户推荐满足他们兴趣的物品。通常我们会给用户推荐其它用户看过的...

文章目录 6.3. 推荐系统代码案例 6.3. 推荐系统代码案例 import recsys.algorithm recsys.algorithm.VERBOSE = True from recsys.algorithm.factorize import SVD from recsys.datamodel.data import Data from recsys.evaluation.prediction import RMSE import os,sys tmpfile = "/tmp/movielens.zip" moviefile ...

文章目录 关于 TensorFlow 什么是数据流图（Data Flow Graph）? Tensorflow的特征 认识Tensorflow 1.1. 下载以及安装 1.2. 初识tf Tensorflow进阶 2.1. 张量的阶和数据类型 2.2. 张量操作 2.3. 变量的的创建、初始化 2.4. 名称域与共享变量 2.5. 图与会话 2.6. 模型保存与恢复、自定义命令行参数 TensorflowIO操作 3.1. 读取数据 3.2. 线程和队列 3.3. 图像操作 可视化学习Tensorboard ...