为什么bert预测结果全为“O”

[luluforever]

No description provided.

[MenglinLu]

您好，建议调一下BERT的学习率

[nicken]

我也遇到了相同的情况，在训练时显示还是准确率有98 但一旦预测也均为"O"

[MenglinLu]

我记得是需要调一下bert的学习率，尽量小一些。不好意思，我因为毕业的关系已经很久没有做相关的研究了所以没有重新整理相关的代码。 在 2020-12-05 15:02:56，"nicken" <[email protected]> 写道： 我也遇到了相同的情况，在训练时显示还是准确率有98 但一旦预测也均为"O" — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

[nicken]

我这边确实将学习率调整后，由原先的2e-4调整为1e-5，后效果确实正常了，感谢

[MenglinLu]

不客气的 在 2020-12-07 11:12:44，"nicken" <[email protected]> 写道： 我这边确实将学习率调整后，由原先的2e-4调整为1e-5，后效果确实正常了，感谢 — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.