|
- 深度学习的loss一般收敛到多少？ - 知乎
这个链接是回归问题的loss，本回答说一下分类问题的。 交叉熵 公式这里就不放了（手机打字不方便），可以看出，其实loss就是log(Pi)的平均值，Pi指的是预测ground truth的概率。所以，如果你希望预测概率超过0 5就好，那么loss就训练到log(0 5)。
- 损失函数｜交叉熵损失函数 - 知乎
Deng [4]在2019年提出了ArcFace Loss，并在论文里说了Softmax Loss的两个缺点：1、随着分类数目的增大，分类层的线性变化矩阵参数也随着增大；2、对于封闭集分类问题，学习到的特征是可分离的，但对于开放集人脸识别问题，所学特征却没有足够的区分性。
- 大模型优化利器：RLHF之PPO、DPO - 知乎
最终，我们可以得出 DPO 的 loss 如下所示： 这就是 DPO 的 loss。DPO 通过以上的公式转换把 RLHF 巧妙地转化为了 SFT，在训练的时候不再需要同时跑 4 个模型（Actor Model 、Reward Mode、Critic Model 和 Reference Model），而是只用跑 Actor 和 Reference 2 个模型。
- 请问MSE loss 大小多少才表示模型优化效果好呢？0. 01大概是什么水平？ - 知乎
主要看评价指标是什么，评价指标是检验模型好坏的标准之一（对，就是之一 如果你的评价指标就是mseloss，验证集的loss和训练集的loss相差不大（说明没有过拟合），而且你的loss是在可接受范围内（说明优化到位了），那模型效果完全可以接受。
- 神经网络模型train_loss下降，val_loss一直上升是什么原因？ - 知乎
train loss 不断上升，test loss不断上升，说明网络结构设计不当，训练超参数设置不当，数据集经过清洗等问题；（最不好的情况） train_loss 不断下降， test_loss 不断上升，和第2种情况类似说明网络过拟合了。
- 深度学习网络收敛之后的loss数值代表什么？ - 知乎
从loss_reg来看：可以找到一些训练样本的bbox的回归处于抖动状态，很难和gt完美贴合，实际上所有目标不太可能和所有gt完美贴合，这就会导致loss_reg的收敛值。如果因为类别正确，bbox的回归值导致这个bbox被判定为FP，就需要额外关注了。
- 深度学习当中train loss和valid loss之间的关系？ - 知乎
val loss是在验证集上的损失，衡量的是在未见过数据上的拟合能力，也可以说是 泛化能力 。模型的真正效果应该用val loss来衡量。 模型的真正效果应该用val loss来衡量。
- 深度学习中loss值可以为负吗？ - 知乎
实际训练过程中可能出现这种现象，不过我建议用 logsoftnax() 处理一下，这样画loss曲线更好看。。。。。。 不过之前改算法的时候发现加log后准确率会差的较多，所以我是在loss输出前log一下。 顺便说一下，我训练时的衡量值是 mIoU ，如果你把loss作为目标函数
|
|
|