|
- 损失函数｜交叉熵损失函数 - 知乎
1 3 Cross Entropy Loss Function（交叉熵损失函数） 1 3 1 表达式 (1) 二分类 在二分的情况下，模型最后需要预测的结果只有两种情况，对于每个类别我们的预测得到的概率为 和 ，此时表达式为（ 的底数是 ）： 其中： - —— 表示样本 的label，正类为 ，负类为
- 深度学习的多个loss如何平衡？ - 知乎
多个loss引入 pareto优化理论，基本都可以涨点的。 例子： Multi-Task Learning as Multi-Objective Optimization 可以写一个通用的class用来优化一个多loss的损失函数，套进任何方法里都基本会涨点。反正我们在自己的研究中直接用是可以涨的。
- 深度学习的loss一般收敛到多少？ - 知乎
看题主的意思，应该是想问，如果用训练过程当中的loss值作为衡量深度学习模型性能的指标的话，当这个指标下降到多少时才能说明模型达到了一个较好的性能，也就是将loss作为一个evaluation metrics。 但是就像知乎er们经常说的黑话一样，先问是不是，再问是什么。所以这个问题有一个前提，就是
- 十分钟读懂旋转编码（RoPE） - 知乎
旋转位置编码（Rotary Position Embedding，RoPE）是论文 Roformer: Enhanced Transformer With Rotray Position Embedding 提出的一种能够将相对位置信息依赖集成到 self-attention 中并提升 transformer 架构性能的位置编码方式。而目前很火的 LLaMA、GLM 模型也是采用该位置编码方式。 和相对位置编码相比，RoPE 具有更好的 外推性
- 深度学习模型训练的时候，一般把epoch设置多大？ - 知乎
在机器学习中，epoch 数量是指整个训练集通过模型的次数。一个Epoch意味着训练数据集中的每个样本都有机会更新内部模型参数。 Epoch由一个或多个Batch组成。 选择合适的 epoch 数量是一个关键的问题，因为它会影响到模型的性能和训练时间。 通常，epoch 数量越多，模型在训练数据上的性能越好
- 神经网络训练结束后，模型保存的参数是损失最小那个epoch的吗还是最后一个epoch的？ - 知乎
例如我训练100轮第90轮的loss=0 6552之后的几轮损失逐渐变大到19 7265。 训练结束后我的模型的权重是损失最低的那一轮的还是最后一轮的？
- 训练3D医学分割网络，BCE loss正常下降，Dice Loss一直不下降，最后停在1，是为什么？ - 知乎
不是医学分割，我做的是一个条带状地图目标的分割。24年1月29日，凌晨3点睡不着起来写代码，发现dice_loss下降尤其慢。 我不认为修改dice_loss的比例能解决问题，到时候消融实验都不好做，以及baseline用bce和dice的线性组合能否预测出一个相对合理的结果都存疑，可能这个模型会预测出全背景，下
- 我打游戏的时候一直丢包，想问怎么确定是路由器，运营商还是电脑问题？ - 知乎
你ping的是 网关，丢包，那么就是和网关之间存在问题。 如果是有线连接 那么是线的问题或者路由器本身的质量问题，是否用了太久？比如十年？二十年？ 如果是 无线连接 大概率是无线连接， 有线连接不会超过1毫秒 的，你这都远远超过1毫秒了，所以你大概率是无线。
|
|
|