pytorch学习之Tensor（张量）

大家好，这里是乱七八糟什么都学的小咩（不是）。
研究需要，正在快速补习pytorch以便快速赶上组里前辈们的脚步，于是我又又又要更新一系列的学习笔记了。
今天我们就从pytorch的张量开始讲起。
本文大约分为以下四个部分：
1、Tensor概念
2、Tensor创建一：直接创建
3、Tensor创建二：依据数值创建
4、Tensor创建三：依据概率创建

1、Tensor概念

什么是张量？

What is Tensor？我的朋友，你是否有很多问号。
张量是一个多维数组，它是标量（0维），向量（1维），矩阵（2维）的高维扩展 。
例如一个三维数组就可称为三维张量。比如我们常用的RGB数组。

Tensor与Variable

Variable是torch.autograd中的数据类型，主要用于封装Tensor，进行自动求导
Variable在最新pytorch的如今已经被并入Tensor。

pytorch0.4.0后的Tensor

• data：被封装的Tensor
• grad：data的梯度
• grad_fn：创建Tensor的Function，自动求导的关键
• requires_grad：指示是否需要梯度
• is_leaf：指示是否是叶子节点
• dtype：张量的数据类型
• shape：张量的形状，比如（64，3,224,224）
• device：张量所在设备，gpu/cpu，是加速的关键
  如下图所示：
  

2、Tensor创建一：直接创建

torch.tensor()

功能：从data创建tensor。

效果类似于这样：

torch.from_numpy(ndarray)

功能：从numpy创建tensor
注意：此时的tensor与ndarray共享内存，修改其中一个，另一个也会改变。

3、Tensor创建二：依据数值创建

torch.zeros()

功能：依size创建全0张量

效果类似这样：


这里就可以看出来两者确实共享内存

torch.ones()

功能：与zeros类似，依size创建全1张量

torch.full()

功能：依size和value创建张量

效果类似这样：

torch.arange()

功能：创建等差的1维张量
注意事项：范围为[start，end）

torch.linespace()

功能：创建均分的1维向量
注意事项：与前一个不同，范围为[start，end]

torch.logspace()

功能：创建对数均分的1维向量

torch.eye()

功能：创建单位对角矩阵（二维张量）

4、Tensor创建三：依据概率创建

torch.normal()

功能：依据正态分布创建张量

torch.randn()

功能：依据标准正态分布创建张量

torch.rand()

功能：在[0,1)上生成均匀分布

torch.randint()

功能：在[low，high)上生成均匀分布

torch.randperm()

功能：生成0到n-1的随机分布
###torch.bernoulli()
功能：以input为概率，生成伯努利分布