ぷにぷにNVA部★2

744 ：転載禁止 🐣 (ﾌﾟｯﾁｮｲ c1eX-UrvJ)：2024/04/07(日) 01:05:23.92 ID:A77pqaCk

>>738
サンガツ！
ワイ 手動Lion さんなんやが あんまり表に出せんもんしか学習しとらんので参考にならんかもやが
--learning_rate 0.001 (1e-3) --lr_scheduler "polynomial" --lr_warmup_steps 1 --lr_scheduler_power 4 (lr_schedukre_power は GUI には無いのでコマンドライン指定)とかのものすごい極端な値でやっとる
（ワイの教材限定では）最序盤の数Epoch の loss 落ち方で最終着地点決まるような動きをすることが多いんで研究中や
出せそうなもんの例としてはやっぱりずんだもんあたりがええんやろか