一、概述 （一）逻辑回归 是分类模型，常属于二分类 逻辑函数是广义的线性回归，将连续值转换为两个离散值（0或1） 逻辑函数：sigmoid 将数值的值映射到（0，1）之间 （二）损失函数  （交叉熵） 当y=1时，预测值y'越接近1，log（y'）越接近于0，损失函数值越小，表示误差越小，预测的越准确 二、逻辑回归实现  (LogisticClassification) 产生网格化矩阵：          grid_x,grid_y = np.meshgrid(np.arrge(left,right,0.01),      ...

一、原理 相似的输入必会产生相似的输出，底层是cart树，二叉树 决策树通过把样本数据分配到树状结构的某个叶子节点来确定数据集中样本所属的分类。 当用于回归时，预测结果为叶子节点所有样本的均值。 二、终止条件 1.特征已经用完：没有可提供使用的特征再进行分裂，树停止分裂 2.子节点中没有样本 3.树达到了预先设定的最大深度 4.节点的样本数量达到了人为设定的阈值：当样本数量<min_samples_split 三、集合算法 （一）常用的集合模型Boosting类模型和Bagging类模型 Boosting :   A...

一、线性模型 （一）概述 1.损失函数 基于均方误差最小化来进行模型求解的方法称为“最小二乘法”。（试图找到一条直线，是所有样本到直线的欧式距离之和最小） 2.梯度下降法 ①原因 最小二乘法需要逆矩阵，有可能逆矩阵不存在 当样本数量特征较多时，计算逆矩阵非常耗时甚至不可行 ②步骤 损失值是否足够小？如果不是，计算损失函数的梯度 按梯度的反方向走一小步，以缩小损失 循环到第一步 ③参数更新法则 二、实现线性回归  （LinearRegression） （一）步骤 使用...

一、机器学习的形式 1.建模问题 （构建模型，主要是数学模型） 2.评估问题 根据评估值判断函数的优劣 ②  Sm.classification_report() 3.优化问题 不断提升函数预测的准确性，直到获取能够满足实际需求的最优解 评估模型时主要用：①  Sm.r2_score()  【导入模块性能评价模块】 二、机器学习的分类 1.有监督学习----->已知数据输出(正确答案的示例)对模型不断的训练     【已知数据和其一一对应的标签，训练一个预测模型，将输入数据映射到标签的过程】 回归、分类 2.无监督学习------>无输出数据   【...