pytorch

pytorch中LN(LayerNorm)及Relu和其变相的输出操作

主要就是了解一下pytorch中的使用layernorm这种归一化之后的数据变化...

5 年前 0 0 49

pytorch 如何自定义卷积核权值参数

pytorch中构建卷积层一般使用nn.Conv2d方法，有些情况下我们需要自定...

5 年前 0 0 53

Pytorch中的gather使用方法

官方说明 gather可以对一个Tensor进行聚合，声明为：torch.gat...

5 年前 0 0 41

Pytorch中的backward()多个loss函数用法

Pytorch的backward()函数假若有多个loss函数，如何进行反向传...

5 年前 0 0 53

解决pytorch-gpu 安装失败的记录

ubuntu18 系统上已经配置好gpu加速环境，安装pytorch-gpu ...

5 年前 0 0 46

pytorch中.to(device) 和.cuda()的区别说明

原理 .to(device) 可以指定CPU 或者GPU device = to...

5 年前 0 0 61

pytorch中的model=model.to(device)使用说明

这代表将模型加载到指定设备上。其中，device=torch.device(&...

5 年前 0 0 51

pytorch 如何使用amp进行混合精度训练

简介 AMP：Automatic mixed precision，自动混合精度，...

5 年前 0 0 47

pytorch–之halfTensor的使用详解

证明出错在dataloader里面在pytorch当中，float16和hal...

5 年前 0 0 42

解决Pytorch半精度浮点型网络训练的问题

用Pytorch1.0进行半精度浮点型网络训练需要注意下问题： 1、网络要在GP...

5 年前 0 0 56

pytorch交叉熵损失函数的weight参数的使用

首先必须将权重也转为Tensor的cuda格式；然后将该class_wei...

5 年前 0 0 37

PyTorch梯度裁剪避免训练loss nan的操作

近来在训练检测网络的时候会出现loss为nan的情况，需要中断重新训练，会很麻烦...

5 年前 0 0 46