使用BERT和GPT的时候可能用到Hyper parameter种类请写出来，超参数请说明一下怎么设置。
最主要的lr和平衡多loss的超参。这个在论文中说的很清楚了。如有帮助请采纳
您好，我是有问必答小助手，您的问题已经有小伙伴解答了，您看下是否解决，可以追评进行沟通哦~
如果有您比较满意的答案 / 帮您提供解决思路的答案，可以点击【采纳】按钮，给回答的小伙伴一些鼓励哦～～
ps:问答VIP仅需29元，即可享受5次/月 有问必答服务，了解详情>>>https://vip.csdn.net/askvip?utm_source=1146287632