
损失函数|交叉熵损失函数 - 知乎
1.3 Cross Entropy Loss Function(交叉熵损失函数) 1.3.1 表达式 (1) 二分类 在二分的情况下,模型最后需要预测的结果只有两种情况,对于每个类别我们的预测得到的概率为 和 ,此时表达 …
深度学习的多个loss如何平衡? - 知乎
多个loss引入pareto优化理论,基本都可以涨点的。 例子: Multi-Task Learning as Multi-Objective Optimization 可以写一个通用的class用来优化一个多loss的损失函数,套进任何方法里都基本会 …
训练集loss下降,测试集loss基本不变,反应了什么问题? - 知乎
训练过程中,大约在300个epoches时,如下图所示,训练集loss继续下降,测试集loss基本不变,这反应了什么问题,如何有效地解决如下问题 ? …
深度学习的loss一般收敛到多少? - 知乎
看题主的意思,应该是想问,如果用训练过程当中的loss值作为衡量深度学习模型性能的指标的话,当这个指标下降到多少时才能说明模型达到了一个较好的性能,也就是将loss作为一 …
十分钟读懂旋转编码(RoPE)
Sep 23, 2025 · 旋转位置编码(Rotary Position Embedding,RoPE)是论文 Roformer: Enhanced Transformer With Rotray Position Embedding 提出的一种能够将相对位置信息依赖集成到 self …
深度学习模型训练的时候,一般把epoch设置多大? - 知乎
在机器学习中,epoch 数量是指整个训练集通过模型的次数。一个Epoch意味着训练数据集中的每个样本都有机会更新内部模型参数。 Epoch由一个或多个Batch组成。 选择合适的 epoch 数 …
神经网络训练结束后,模型保存的参数是损失最小那个epoch的吗 …
例如我训练100轮第90轮的loss=0.6552之后的几轮损失逐渐变大到19.7265。 训练结束后我的模型的权重是损失最低的那一轮的还是最后一轮的?
深度学习中,loss下降的快慢或者曲率(但最后收敛在同一水平) …
深度学习中,loss下降的快慢或者曲率(但最后收敛在同一水平)会对下游任务的性能有什么影响吗? [图片] 就像这张图里的两个loss曲线一样。 显示全部 关注者 159
深度学习模型训练的时候,一般把epoch设置多大? - 知乎
实验室环境: 10 先来10个淡淡嘴儿,看看有收敛趋势就开始写ppt了。 生产环境: ∞ 判断loss 和 accuracy来决定是否停止。
我打游戏的时候一直丢包,想问怎么确定是路由器,运营商还是电 …
你ping的是 网关,丢包,那么就是和网关之间存在问题。 如果是有线连接 那么是线的问题或者路由器本身的质量问题,是否用了太久?比如十年?二十年? 如果是 无线连接 大概率是无线连 …