pytorch学习之Tensor(张量)
大家好,这里是乱七八糟什么都学的小咩(不是)。
研究需要,正在快速补习pytorch以便快速赶上组里前辈们的脚步,于是我又又又要更新一系列的学习笔记了。
今天我们就从pytorch的张量开始讲起。
本文大约分为以下四个部分:
1、Tensor概念
2、Tensor创建一:直接创建
3、Tensor创建二:依据数值创建
4、Tensor创建三:依据概率创建
1、Tensor概念
什么是张量?
What is Tensor?我的朋友,你是否有很多问号。
张量是一个多维数组,它是标量(0维),向量(1维),矩阵(2维)的高维扩展 。
例如一个三维数组就可称为三维张量。比如我们常用的RGB数组。
Tensor与Variable
Variable是torch.autograd中的数据类型,主要用于封装Tensor,进行自动求导
Variable在最新pytorch的如今已经被并入Tensor。
pytorch0.4.0后的Tensor
- data:被封装的Tensor
- grad:data的梯度
- grad_fn:创建Tensor的Function,自动求导的关键
- requires_grad:指示是否需要梯度
- is_leaf:指示是否是叶子节点
- dtype:张量的数据类型
- shape:张量的形状,比如(64,3,224,224)
- device:张量所在设备,gpu/cpu,是加速的关键
如下图所示:
2、Tensor创建一:直接创建
torch.tensor()
功能:从data创建tensor。
效果类似于这样:
torch.from_numpy(ndarray)
功能:从numpy创建tensor
注意:此时的tensor与ndarray共享内存,修改其中一个,另一个也会改变。
3、Tensor创建二:依据数值创建
torch.zeros()
功能:依size创建全0张量
效果类似这样:
这里就可以看出来两者确实共享内存
torch.ones()
功能:与zeros类似,依size创建全1张量
torch.full()
功能:依size和value创建张量
效果类似这样:
torch.arange()
功能:创建等差的1维张量
注意事项:范围为[start,end)
torch.linespace()
功能:创建均分的1维向量
注意事项:与前一个不同,范围为[start,end]
torch.logspace()
功能:创建对数均分的1维向量
torch.eye()
功能:创建单位对角矩阵(二维张量)
4、Tensor创建三:依据概率创建
torch.normal()
功能:依据正态分布创建张量
torch.randn()
功能:依据标准正态分布创建张量
torch.rand()
功能:在[0,1)上生成均匀分布
torch.randint()
功能:在[low,high)上生成均匀分布
torch.randperm()
功能:生成0到n-1的随机分布
###torch.bernoulli()
功能:以input为概率,生成伯努利分布