ぷにぷにNVA部★14

692 ：転載禁止 (ﾌﾟｯﾁｮｲ UtJP-wiRt)：2025/02/07(金) 21:29:50.16 ID:VnQ2xesM

>>688
2を3にすると2より下を進む感じになるやで(たわみが増える感じ)
なのでPower値を増やすときはLR初期値を少し高めにして最序盤のみ超高LRで学習して中盤から終盤は低LRで少しずつ学習を進めていって中終盤の区間で出来のいいところを探すという感じや
1が直線でLinearと同じで1以下(0.5とか)にすると上に膨らんだ形になるんで序盤中間厚めに学習していく感じになるんやが1以下だと傾向としてCosineに近くなったりするのと最後が一気にLR変化して落ちるんであんまり使わんやね…