深度学习应用篇-计算机视觉-视频分类[8]：时间偏移模块（TSM）、TimeSformer无卷积视频分类方法、注意力机制 1.时间偏移模块（TSM） 视频流的爆炸性增长为以高精度和低成本执行视频理解任务带来了挑战。传统的2D CNN计算成本低，但无法捕捉视频特有的时间信息；3D CNN可以得到良好的性能，但计算量庞大，部署成本高。作者提出了一种通用且有效的时间偏移模块（TSM），它通过沿时间维度移动部分通道来促进相邻帧间的信息交换，同时它可以插入到2D CNN中实现零计算和零参数的时间建模，以此兼具2D卷积的高效与3D卷积的高性能。 1.2. TSM模型介绍 1.2.1 Intuition 首...

深度学习应用篇-计算机视觉-OCR光学字符识别[7]：OCR综述、常用CRNN识别方法、DBNet、CTPN检测方法等、评估指标、应用场景 1.OCR综述 OCR(Optical Character Recognition,光学字符识别)是指对图像进行分析识别处理，获取文字和版面信息的过程，是典型的计算机视觉任务，通常由文本检测和文本识别两个子任务构成。 文字检测：将图片中的文字区域位置检测出来（如图1(b)所示）； 文字识别：对文字区域中的文字进行识别（如图1(c)所示）。 OCR发展历程 早在60、70年代，人们就开始对OCR进行研究。在研究的初期，主要以文字识别方法研究为主，而...

数据挖掘实践（金融风控）：金融风控之贷款违约预测挑战赛（下篇）[xgboots/lightgbm/Catboost等模型]--模型融合：stacking、blending 相关文章： 数据挖掘实践（金融风控）：金融风控之贷款违约预测挑战赛(上篇) 数据挖掘机器学习专栏 4.建模与调参 项目链接以及码源见文末 4.1 模型对比与性能评估 4.1.1 逻辑回归 优点 训练速度较快，分类的时候，计算量仅仅只和特征的数目相关； 简单易理解，模型的可解释性非常好，从特征的权重可以看到不同的特征对最后结果的影响； 适合二分类问题，不需要缩放输入特征； 内存资源占用小，只需要存储各个维度的特征值； ...

数据挖掘实践（金融风控）：金融风控之贷款违约预测挑战赛（上篇）[xgboots/lightgbm/Catboost等模型]--模型融合：stacking、blending 1.赛题简介 赛题以金融风控中的个人信贷为背景，要求选手根据贷款申请人的数据信息预测其是否有违约的可能，以此判断是否通过此项贷款，这是一个典型的分类问题。通过这道赛题来引导大家了解金融风控中的一些业务背景，解决实际问题，帮助竞赛新人进行自我练习、自我提高。 赛题以预测金融风险为任务，数据集报名后可见并可下载，该数据来自某信贷平台的贷款记录，总数据量超过120w，包含47列变量信息，其中15列为匿名变量。为了保证比赛的公平性，...

【机器学习入门与实践】数据挖掘-二手车价格交易预测（含EDA探索、特征工程、特征优化、模型融合等） note：项目链接以及码源见文末 1.赛题简介 了解赛题 赛题概况 数据概况 预测指标 分析赛题 数据读取pandas 分类指标评价计算示例 回归指标评价计算示例 EDA探索 载入各种数据科学以及可视化库 载入数据 总览数据概况 判断数据缺失和异常 了解预测值的分布 特征分为类别特征和数字特征，并对类别特征查看unique分布 数字特征分析 类别特征分析 用pandas_profiling生成数据报告 特征工程 导入数据 删除异常值 特征构造 特征筛选 建...

深度学习应用篇-计算机视觉-语义分割综述[6]：DeepLab系列简介、DeepLabV3深入解读创新点、训练策略、主要贡献 0.DeepLabV3深入解读 1、DeepLab系列简介 1.1.DeepLabV1 作者发现Deep Convolutional Neural Networks (DCNNs) 能够很好的处理的图像级别的分类问题，因为它具有很好的平移不变性（空间细节信息已高度抽象），但是DCNNs很难处理像素级别的分类问题，例如姿态估计和语义分割，它们需要准确的位置信息。 1.1.1创新点： 将深度神经网络DCNN与全连接CRF结合起来，提高图像分割的分割精度。 提出空洞卷积的思...

深度学习应用篇-计算机视觉-语义分割综述[5]：FCN、SegNet、Deeplab等分割算法、常用二维三维半立体数据集汇总、前景展望等 语义分割综述（semantic segmentation） 1.初识语义分割 1.1.计算机视觉 目前，计算机视觉是深度学习领域最热门的研究领域之一。从广义上来说，计算机视觉就是要“赋予机器自然视觉的能力”。实际上，计算机视觉本质上就是研究视觉感知问题，其目标就是对环境的表达和理解，核心问题是研究如何对输入的图像信息进行组织，对物体和场景进行识别，进而对图像内容给予解释。更进一步来说，计算机视觉就是研究如何让计算机利用摄像头等机器设备实现和人类一样“看”的能...

机器学习实战系列[一]：工业蒸汽量预测（最新版本下篇） 原项目链接：https://www.heywhale.com/home/column/64141d6b1c8c8b518ba97dcc 5.模型验证 5.1模型评估的概念与正则化 5.1.1 过拟合与欠拟合 ### 获取并绘制数据集 import numpy as np import matplotlib.pyplot as plt %matplotlib inline np.random.seed(666) x = np.random.uniform(-3.0, 3.0, size=100) X = x.reshape(-1, 1) ...

机器学习实战系列[一]：工业蒸汽量预测（上篇） 背景介绍 火力发电的基本原理是：燃料在燃烧时加热水生成蒸汽，蒸汽压力推动汽轮机旋转，然后汽轮机带动发电机旋转，产生电能。在这一系列的能量转化中，影响发电效率的核心是锅炉的燃烧效率，即燃料燃烧加热水产生高温高压蒸汽。锅炉的燃烧效率的影响因素很多，包括锅炉的可调参数，如燃烧给量，一二次风，引风，返料风，给水水量；以及锅炉的工况，比如锅炉床温、床压，炉膛温度、压力，过热器的温度等。 相关描述 经脱敏后的锅炉传感器采集的数据（采集频率是分钟级别），根据锅炉的工况，预测产生的蒸汽量。 数据说明 数据分成训练数据（train.txt）和测试数据（...

1.机器学习算法（九）: 基于线性判别模型的LDA手写数字分类识别 本项目链接：https://www.heywhale.com/home/column/64141d6b1c8c8b518ba97dcc 1.1 LDA算法简介和应用 线性判别模型（LDA）在模式识别领域（比如人脸识别等图形图像识别领域）中有非常广泛的应用。LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的。这点和PCA不同。PCA是不考虑样本类别输出的无监督降维技术。LDA的思想可以用一句话概括，就是“投影后类内方差最小，类间方差最大”。我们要将数据在低维度上进行投影，投影后希望每一种类别数据的投影点...

机器学习算法（八）：基于BP神经网络的乳腺癌的分类预测 本项目链接：https://www.heywhale.com/home/column/64141d6b1c8c8b518ba97dcc 1.算法简介和应用 1.1 算法简介 BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差...

深度学习应用篇-计算机视觉-目标检测[4]：综述、边界框bounding box、锚框（Anchor box）、交并比、非极大值抑制NMS、SoftNMS 1.目标检测综述 对计算机而言，能够“看到”的是图像被编码之后的数字，它很难理解高层语义概念，比如图像或者视频帧中出现的目标是人还是物体，更无法定位目标出现在图像中哪个区域。目标检测的主要目的是让计算机可以自动识别图片或者视频帧中所有目标的类别，并在该目标周围绘制边界框，标示出每个目标的位置，如 图1 所示。 图1 图像分类和目标检测示意图 图1(a)是图像分类任务，只需对这张图片进行类别识别。 图1(b)是目标检测任务，不仅要识别出这...

深度学习应用篇-计算机视觉-图像分类[3]：ResNeXt、Res2Net、Swin Transformer、Vision Transformer等模型结构、实现、模型特点详细介绍 1.ResNet 相较于VGG的19层和GoogLeNet的22层，ResNet可以提供18、34、50、101、152甚至更多层的网络，同时获得更好的精度。但是为什么要使用更深层次的网络呢？同时，如果只是网络层数的堆叠，那么为什么前人没有获得ResNet一样的成功呢？ 1.1. 更深层次的网络？ 从理论上来讲，加深深度学习网络可以提升性能。深度网络以端到端的多层方式集成了低/中/高层特征和分类器，且特征的层次可通...

机器学习算法（八）：基于BP神经网络的乳腺癌的分类预测 本项目链接：https://www.heywhale.com/home/column/64141d6b1c8c8b518ba97dcc 1.算法简介和应用 1.1 算法简介 BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差...