牛客图书馆 > 读书笔记
  • 《神经网络与深度学习》读书笔记

    2.5 机器学习的算法类型 按照训练样本提供的信息以及反馈方式不同可分为 监督学习 训练集的样本必须包含标签 可以按照标签的不同划分为不同 回归 分类 结构化学习 无监督学习 从不包含目标标签的样本中自动学习到一些有价值的信息 常用的无监督学...
    子永 编辑于 2020-11-22 18:40:09
  • 《神经网络与深度学习》读书笔记

    2.3机器学习的简单示例——线性回归 线性回归(Linear Regression)是机器学习和统计学中最基础和最广泛应用的模型,是一种对自变量和因变量之间关系进行建模的回归分析.自变量数量 为1时称为简单回归,自变量数量大于1时称为多元回归。 通俗化的理解...
    子永 编辑于 2020-11-07 21:10:18
  • 《神经网络与深度学习》第5章读书笔记

    5.2 卷积神经网络 卷积神经网络一般由卷积层、汇聚层和全连接层构成。5.2.1 用卷积代替全连接 在全连接的前馈神经网络中,由于权重矩阵中的权重参数的数量会非常多,导致训练效率会非常低。使用卷积可以减少。 根据卷积的定义,卷积层有两个很重要的性质 局部连...
    子永 编辑于 2021-03-12 14:20:03
  • 《神经网络与深度学习》读书笔记

    8.2 注意力机制 8.3 自注意力模型...
    子永 编辑于 2021-08-07 16:27:48
  • 《神经网络与深度学习》读书笔记

    8.5 记忆增强神经网络...
    子永 编辑于 2021-08-07 16:31:27
  • 《神经网络与深度学习》7.6读书笔记

    7.6 超参数优化 常见超参数1 网络结构 包括神经元的链接关系 层数、 每层神经元的数量、激活函数的类型等。2 优化参数 包括优化方法、学习率、小批量的样本数量等。3 正则化系数 7.6.1 网格搜索 网格搜索(Grid Search)是一种通过尝试所...
    子永 编辑于 2021-07-09 16:47:25
  • 《神经网络与深度学习》第5章读书笔记

    第五章:卷积神经网络 卷积神经网络(Convolutional Neural Network,CNN或ConvNet)是一种具有局部连接、权重共享等特性的深层前馈神经网络。 在用全连接前馈网络来处理图像时,会存在以下两个问题: 参数太多:如果输入图像大小为1...
    子永 编辑于 2021-03-04 20:02:03
  • 《神经网络与深度学习》7.4读书笔记

    7.4 数据预处理 一般而言,样本特征由于来源以及度量单位不同,它们的尺度(Scale)(即取值范围)往往差异很大.以描述长度的特征为例,当用“米”作单位时令其值为𝑥,那么当用“厘米”作单位时其值为100𝑥.不同机器学习模型对数据特征尺度的敏感程度不一样...
    子永 编辑于 2021-06-25 17:03:36
  • 《神经网络与深度学习》读书笔记

    6.2 简单循环网络 简单循环网络(Simple Recurrent Network,SRN)[Elman, 1990] 是一个非常简 单的循环神经网络,只有一个隐藏层的神经网络.在一个两层的前馈神经网络中,连接存在相邻的层与层之间,隐藏层的节点之间是无连接...
    子永 编辑于 2021-04-16 18:48:35
  • 《神经网络与深度学习》7.2读书笔记

    7.2 优化算法 目前,深度神经网络的参数学习主要是通过梯度下降法来寻找一组可以最小化结构风险的参数.在具体实现中,梯度下降法可以分为:批量梯度下降、随机梯度下降以及小批量梯度下降三种形式.根据不同的数据量和参数量,可以选择一种具体的实现形式.本节介绍一些在...
    子永 编辑于 2021-06-11 20:24:28