ぷにぷにNVA部★17

309 ：転載禁止 🐥 (ﾌﾟｯﾁｮｲ YNe4-wW4w)：2025/06/14(土) 01:48:31.61 ID://fiOhR2

>>308
サンガツ
GUI見たら勾配を合計するstep数　batchサイズに似た効果があるとの解説があったけど
仮にbatch8相当の学習したい時は
--train_batch_size=2 の--gradient_accumulation_steps=8
でbatch2相当の消費で8に近い学習ができるんかな？学習は奥が深い・・・