pytorch总结系列-基础知识

灰太狼 2023-07-24 11:50 100阅读 0赞

*  Tensor张量类型
 *  CPU and GPU
 *  PyTorch and NumPy
 *  Variables变量
 *  Back Propagation

1.Pytorch的Tensor 数据类型有32 位浮点型 torch.FloatTensor 、 64 位浮点型 torch.DoubleTensor 、 16 位整型 torch.ShortTensor 、 32 位整型 torch.lntTensor 和 64 位整型 torch.LongTensor，默认的数据类型是 torch.FloatTensor.

例如：x = torch.FloatTensor(\[\[1,2,3\],\[4,5,6\]\])

2.Pytorch的Tensor 可以运行在CPU和GPU上。torch.cuda.is available() 判断一下是否支持 GPU，如果支持GPU，可以通过cuda()函数，把tensor加载到GPU上运行。

例如：gpu\_tensor = torch.randn(1,10).cuda(0)       \# 将tensor放到第一个GPU上

3.PyTorch和NumPy之间来回转换：

3.1.将numpy的ndarray转换成torch.Tensor的两种方式：

3.1.1 pytorch\_tensor = torch.Tensor(numpy\_tensor)

3.1.2 pytorch\_tensor = torch.from\_numpy(numpy\_tensor)

3.2将torch.Tensor转换成numpy的ndarray

3.2.1 numpy\_array = pytorch\_tensor.numpy()   \#在CPU上运行的pytorch\_tensor

3.2.2 numpy\_array = pytorch\_tensor.cpu().numpy()   \#在GPU上运行的pytorch\_tensor，先要转到CPU上运行

4.PyTorch Variables，将数据传送到Pytorch构建的计算图中，然后进行前向传播，反向传播，自动求导。包装后的Variable有三个attribute：data，creater，grad。

例如：x = torch.randn(3)