参考https://blog.csdn.net/qq_33472765/article/details/86561557 过抽样（over-sampling）： 通过增加分类中少数类样本的数量来实现样本均衡，比较好的方法有SMOTE算法。SMOTE算法 ：简单来说smote算法的思想是合成新的少数类样本，合成的策略是对每个少数类样本a，从它的最近邻中随机选一个样本b，然后在a、b之间的连线上随机选一点作为新合成的少数类样本。

袋外数据OOB：在每一轮训练中有36.8%的数据不会被抽取到 袋外数据错误率：参考https://www.cnblogs.com/zhangzhixing/p/11150317.html 调参方法： 常用参数：n_estimators决策树的个数、每棵树最大特征数（max_features） 一般用sqrt(总特征数)、最大树深度”（max_depth）、“分裂所需最小样本数”（min_samples_split）所需样本越少意味着模型越复杂 网格化搜索：sklearn 提供了相应的方GridSearchCV，穷举找到全局最优的参数，但计算复杂度较高，适合小规模的问题 贪心的坐标下降搜索：...

窗口滤波 用窗口内一组序列的均值来代替当前值 移动平均：窗口变大时会产生滞后，下一时刻的变化要过一段时间才能显现出来，但窗口小的时候滤波效果不明显 加权移动平均：权值和为1，越靠近当前位置的信号权值越大 指数移动平均 高斯滤波

参考 https://www.csuldw.com/2019/07/12/2019-07-12-an-introduction-to-gbdt/ GBDT三大核心： 提升方法（加法模型+前向分步算法）； 梯度提升：梯度与残差； 决策树：CART回归树。 为什么GBDT会引入gradient的概念？ 回归损失MSE:的一阶导数就是残差的形式，残差正好就是损失函数的负梯度 GBDT的缺点？ 对异常值过于敏感 参考https://zhuanlan.zhihu.com/p/29765582解决方法：用绝对值损失或者huber损失（设置了outlier阈值） XGBOOST的生长策略（跟GB...

参考 https://blog.csdn.net/tsyccnh/article/details/79163834参考https://charlesliuyx.github.io/2017/09/11/%E4%BB%80%E4%B9%88%E6%98%AF%E4%BF%A1%E6%81%AF%E7%86%B5%E3%80%81%E4%BA%A4%E5%8F%89%E7%86%B5%E5%92%8C%E7%9B%B8%E5%AF%B9%E7%86%B5/ 【直观详解】信息熵、交叉熵和相对熵

决策树笔记参考 https://plmsmile.github.io/2018/03/05/29-desicion-tree/https://blog.csdn.net/u012328159/article/details/70184415 决策树的复杂度 决策树模型的复杂度由生成的树的叶子节点数量和叶子节点对应的值向量的L2范数决定；

内连接、外连接 参考https://www.liaoxuefeng.com/wiki/1177760294764384/1179610888796448 INNER JOIN只返回同时存在于两张表的行数据，由于students表的class_id包含1，2，3，classes表的id包含1，2，3，4，所以，INNER JOIN根据条件s.class_id = c.id返回的结果集仅包含1，2，3。 RIGHT OUTER JOIN返回右表都存在的行。如果某一行仅在右表存在，那么结果集就会以NULL填充剩下的字段。 LEFT OUTER JOIN则返回左表都存在的行。如果我们给studen...

真是大同小异，还是有套路啊！没录音，只记得一点点，记不得的都是套路题，没亮点。 阅文，一面二面HR面 编程： 字符串形式的double数据转换成真double数据，要考虑算法时间、空间复杂度，怎么优化；不能用python内置函数（我想写是split+遍历，面试官说直接用ASCII码操作） >>> ord('A') >>> 65但这不也还是会用到内部函数？ 业务场景题： 1、用户推荐，给一个用户指标，怎么从量级几百万的数据库里找到和这个用户特征相近的前n个用户（涉及 ：Faiss搜索）： 怎么减小搜索复杂度？（我答的是用分箱法的思路，举个例子，二维特征的话，...

ANOVA 方差分析 摘自https://blog.csdn.net/lvsehaiyang1993/article/details/80397850 方差分析(Analysis of Variance，简称ANOVA)，又称“变异数分析”，是R.A.Fisher发明的，用于两个及两个以上样本均数差别的显著性检验。 由于各种因素的影响，研究所得的数据呈现波动状。造成波动的原因可分成两类，一是不可控的随机因素，另一是研究中施加的对结果形成影响的可控因素。 定义 方差分析（ANOVA）又称“变异数分析”或“F检验”，是由R.A.Fister发明的，用于对两个及两个以上的样本集合的统计特性：平均...

主键的作用 对于关系表，有个很重要的约束，就是任意两条记录不能重复。不能重复不是指两条记录不完全相同，而是指能够通过某个字段唯一区分出不同的记录，这个字段被称为主键。 插入相同主键的两条记录是不被允许的。 记录一旦插入到表中，主键最好不要再修改，因为主键是用来唯一定位记录的，修改了主键，会造成一系列的影响。 不使用任何业务相关的字段作为主键。 对于大部分应用来说，通常自增类型的主键就能满足需求。 查询语法： SELECT * FROM <表名> WHERE <条件表达式> SQL引擎不能把多个name的值放入一行记录中。因此，聚合查询的列中，只能放入分组的列。...

1、判别式模型于生成式模型的区别以及常见模型？2、机器学习中的最优化方法有哪些，优点缺点都是什么？3、主要的聚类算法有哪些？有点缺点？4、节点的度，出度入度5、满二叉树与完全二叉树6、满二叉树节点数与深度的关系2^k-1，叶子节点个数2^(k-1)

详见https://blog.csdn.net/Rex_WUST/article/details/89253597

recall体现了分类模型对正样本的识别能力precision体现了分类模型对负样本的区分能力F1score是两者的综合，越高2说明分类模型越稳健 以下参考https://zhuanlan.zhihu.com/p/78204581 Precision的定义为： [公式] Recall的定义为： [公式] Precision从预测结果角度出发，描述了二分类器预测出来的正例结果中有多少是真实正例，即该二分类器预测的正例有多少是准确的；Recall从真实结果角度出发，描述了测试集中的真实正例有多少被二分类器挑选了出来，即真实的正例有多少被该二分类器召回。

SMOTE过采样算法 参考https://blog.csdn.net/qq_33472765/article/details/86561557 简单来说smote算法的思想是合成新的少数类样本，合成的策略是对每个少数类样本a，从它的最近邻中随机选一个样本b，然后在a、b之间的连线上随机选一点作为新合成的少数类样本。 model_smote=SMOTE() #建立smote模型对象 x_smote_resampled,y_smote_resampled=model_smote.fit_sample(x,y) x_smote_resampled=pd.DataFr...