https://github.com/kohya-ss/sd-scripts/pull/1395
学習の収束が1.2〜3倍になるらしい
普通はランダムに一枚出力にした物を使うノイズをImmiscible Noiseバッチ数大量に出して教師画像と近い物を選ぶ事でより自然な学習ができるとかなんとか
論文適当に流し読みしたんであってるかは謎
タイepoch比較
https://ul.h3z.jp/Rz8dYq9w.jpeg
ハマチepoch比較
https://ul.h3z.jp/1J8MjfAM.jpeg
上から件のImmiscible Noise(1024バッチ)、普通のAdamW8bit、前試したAdamWスケジュールフリーのplus lr16でlrは全部0.0001
plusは収束がくそはやだけど偶に破綻する奴が無いのに収束早いのがすごい(こなみ)
loss
https://ul.h3z.jp/BQqN3nxA.jpeg
Immiscible Noiseの序盤のlossの下がりが凄い。おそらくcosine restart 4cycleにしてたからか変な下がり方になったんでもうちょい改善はできると思うわ
loraplusとの併用もこの後試してみる予定