PyTorch中的训练模式和损失计算

在使用 PyTorch 进行模型训练时,为什么需要设置训练模式?如何计算每个 epoch 的平均损失?今天,我们来唠一唠。 一、模型的训练模式 在训练神经网络模型时,特别是...

2023-07-23 · 3 分钟 · 史玉浩

理解梯度下降在机器学习、深度学习和强化学习中的应用

梯度下降是一种核心优化算法,广泛应用于机器学习、深度学习和强化学习中。本文将详细介绍这三者的关系,以及梯度下降在这些领域中的具体应用和实现方...

2023-07-11 · 5 分钟 · 史玉浩

理解梯度下降:批量、随机与小批量的对比

在机器学习和深度学习中,梯度下降是一种广泛使用的优化算法,用于最小化模型的损失函数,从而优化模型参数。梯度下降的三种主要变体是批量梯度下降、...

2023-07-10 · 4 分钟 · 史玉浩