いろいろLoRA作成記録

Header Image

概要

LoRAの作成記録とか検証とか
原神LoRA検証に書き足すのは限界があるので、原神キャラ再現以外を記録する。というかあっちはもう更新するつもりはない。
参考程度に。

注意

センシティブな画像があるので注意。
また、再現度確認の参考で貼ってあるリンク先(danbooru)は成人向け画像が含まれるため閲覧注意!
この記録はあくまでも一例です。これだけで結論を出すべきではありません。ほかの情報も参考にしてください。
特に明記していない限りすべてSD1.5での学習です。

学習について(SD1.5)

特に記載がない限り、AdamW,512x512,animefull,キャプションシャッフル,トークン保持1、正則化無しで学習している。

スペック

CPU: AMD Ryzen 7 5800X, CO調整済 ※SDXL以降の項目は5700G
GPU: NVIDIA GeForce RTX 2070 SUPER(GDDR6 8GB)
RAM: DDR4-3200 16GBx2
グラボが弱い。4060にすら負けている。


キャラクター

アズサ(AdamW vs DAdaptLion)

4096Steps、Dim64Alpha16,Conv2d拡張有効(C3Lier)、AdamWのLRは0.0001。教師画像64枚でWD14Taggerでキャプション作成。
DAdaptLionの設定: --optimizer_args "betas=0.9,0.999" "weight_decay=0" "d0=1e-06"

再現度確認の参考に:Danbooru検索「azusa_(blue_archive)」
dwがAdamWでdlがDAdaptLion。
Image
袖の再現度が上がった。

ハルカ(AdamW vs DAdaptLion)

4096Steps、Dim64Alpha16,Conv2d拡張有効(C3Lier)、AdamWのLRは0.0001。教師画像64枚でWD14Taggerでキャプション作成。
再現度確認の参考に:Danbooru検索(閲覧注意)「haruka_(blue_archive)」
DAdaptLionの設定: --optimizer_args "betas=0.9,0.999" "weight_decay=0" "d0=1e-06"
Image
衣装の再現度が良くなった。

アル(AdamW vs DAdaptLion)

4508Steps、Dim64Alpha16,Conv2d拡張有効(C3Lier)、AdamWのLRは0.0001、解像度は768。教師画像161枚でWD14Taggerでキャプション作成。
再現度確認の参考に:Danbooru検索(閲覧注意)「aru_(aru_archive)」
DAdaptLionの設定: --optimizer_args "betas=0.9,0.999" "weight_decay=0" "d0=1e-06"
v7がAdamWでv7_dlがDAdaptLion。
Image
衣装の再現度が良くなった気がする。

AdamWとDAdaptLionのstepごとの変化

再現度確認の参考に:Danbooru検索(閲覧注意)「mika_(blue_archive)」
Image
3000stepsで突然背景が変化した。
Image
AdamWは3000から、DAdaptLionは2000から再現できている。

DAdaptLionにしたら少し再現度が上がる。ただしCPUボトルネックがかなり出やすいのか、CPUの1スレッド使い切ってGPU消費電力がフラフラする。

DAdaptLion vs Prodigy

DAdaptLionとProdigyの設定: learning_rate 1 --optimizer_args "betas=0.9,0.999" "weight_decay=0" "d0=1e-06"

v12がDAdaptLionでv12pがProdigy
大体4000steps回した。
Image
ん?

再現度確認の参考に:Danbooru検索(閲覧注意)「saori_(blue_archive)」
dlがDAdaptLionでpdがProdigy
大体5000steps回した。
Image
えーっと、何が変わったのか、分かりません

steps数ごとの変化
再現度確認の参考に:Danbooru検索(閲覧注意)「yuuka_(blue_archive)」
Image
Image
prodigyは学習が速いっていう人いるけどむしろ遅いような・・・設定の問題なのかな?

ProdigyはDyLoRAを使わないかデータセットが大きいならあまり意味はなさそう。

キャラは層別でOUT03-06だけでいいかも

Image
Image
見ての通り、再現度が一切変わらない。
ほとんどのキャラは問題ないが、目の再現度が低下する場合があるためIN04-07も有効化推奨。
学習速度上昇、VRAM消費削減、ファイルサイズ削減できるのでおすすめ!
キャラの学習にLoConなんていらんかったんや・・・

DAdaptation系の注意

  • LRは1を強く推奨。
  • 一部のDAdaptation系OptimizerはUNetとTEのLRを個別に設定できない。
  • 一部のDAdaptation系Optimizerは層別学習率で0と1以外は設定できない。

小物類

M4 Carbine

Conv2dオンのLoRA,Dim64/Alpha1で学習。stepsは大体9000。教師画像は94枚、繰り返し数は8。
aimingとaiming at viewerで単語が被って生成時に両者の特徴が混ざってしまうのでaiming at viewerをaavに変更。

Image Prompt Description
Generated by AI <lora:m4_carbine:1>1girl, m4 carbine, holding gun 相変わらず武器はへたくそ。 画風が変わった。
Generated by AI <lora:m4_carbine:0.8:NCNF>1girl, m4 carbine, holding gun 強度を下げてLBW有効化。ちょっと良くなった。
Generated by AI <lora:m4_carbine:1><lora:aru:1>1girl, aru (blue archive), m4 carbine, holding gun キャラLoRAと併用する。汚くなった。
Generated by AI <lora:m4_carbine:0.8><lora:aru:1>1girl, aru (blue archive), m4 carbine, holding gun 強度を下げるが効果なし。
Generated by AI <lora:m4_carbine:0.8:NCNF><lora:aru:1>1girl, aru (blue archive), m4 carbine, holding gun 顔とキャラ周りの層を切ったら改善した。

9000step回してようやく反応するようになったが、aiming周りが怪しいのでもっと回す必要あり?
追記:16000steps回してもダメだった。多分SD1.Xの限界。ちなみにSDXLならLoRA無しで崩れずにm4カービンを出せてしまう。SD1.Xでろくに持てなかったものをあっさりと持つ。

まとめ

手に持つ小物類もかなり回さないと反応しないようだ。
複数のLoRAを使用した時に汚くなる場合は、LoRA Block Weightを使うと良い。


構図・シチュエーション

驚いた時の「^^^」

networks.lora, Dim32/Alpha2(Conv2d拡張オン、convも同じ値)で学習。教師画像は64枚、繰り返し数は8。

Image Prompt Description
Generated by AI <lora:SurprisedEffect6K:1>1girl, ^^^, surprised 6000程度では効果が薄い
Generated by AI <lora:SurprisedEffect12K:1>1girl, ^^^, surprised 12000steps回したら効き目が出た。画風への影響は小さい。
Generated by AI <lora:SurprisedEffect12K:1><lora:aru:1>1girl, aru (blue archive), ^^^, surprised キャラLoRAと併用。相性はキャラLoRAによって異なる。

ラーメン

なぜかAIはラーメンをてづかみで食べるものと思っているので、指導してやった。
lycoris_kohya, algo=lora, Dim32/Alpha8(convも同じ値)で学習。教師画像は139枚、繰り返し数は4。6400steps回した。

正則化画像は透明240枚。

Image Prompt Description
Generated by AI 1girl, ramen, chopsticks, eating LoRA無し。右手に持ってる箸は何のためにあるのか
Generated by AI <lora:ramen_v1.1:1>1girl, ramen, chopsticks, eating 問題解決。画風の影響も小さい。
Generated by AI <lora:ramen_v1.1:1><lora:aru:1>1girl, aru (blue archive), ramen, chopsticks, eating キャラLoRAと併用。問題なし。

驚いた時の白目

networks.lora, Dim32/Alpha1(Conv2d拡張オン、convも同じ値)で学習。教師画像は45枚、繰り返し数は10。
warmup_stepsは未指定。

Image Prompt Description
Generated by AI <lora:SurprisedBlankEyes:1>1girl, blank eyes, surprised Good
Generated by AI <lora:SurprisedBlankEyes:1>1girl, blank eyes, blonde hair, surprised, school uniform, 4koma 謎の4コマ
Generated by AI <lora:SurprisedBlankEyes:1><lora:aru:1>1girl, aru (blue archive), blank eyes, surprised キャラLoRAと併用。問題なし。
Generated by AIhttps://www.imagebam.com/view/MEKAYN7 <lora:SurprisedBlankEyes4:1><lora:aru:1>1girl, aru (blue archive), blank eyes, surprised, explosion, standing Dim16にして8100steps回した。白目にならない確率が下がって、プロンプトの応答性とHighres時の安定性が改善した。ファイルサイズ的にもこっちでいいかな

まとめ

シチュエーションはかなり回さないとプロンプトに反応しない。
目安として9000steps以上。
Dimは32-16でよさそう。


背景

桜(写真)

networks.lora, Dim32/Alpha8(convも同じ値)で学習。教師画像は48枚、繰り返し数は10。3840steps回した。
正則化画像は透明16枚。

Image Prompt Description
Generated by AI <lora:SakuraScenery_v1.25:1>1girl, cherry blossoms ド派手なピンク色の桜が上品な色になった。キャラの画風が若干変化した。
Generated by AI <lora:SakuraScenery_v1.25:1>1girl, cherry blossoms Dim16Alpha8
Generated by AI <lora:SakuraScenery_v1.3:1:NCNF>1girl, cherry blossoms LBWでキャラ周りをオフにした。キャラへの影響が減ったが、桜の色が濃くなった。
Generated by AI <lora:SakuraScenery_v1.25:1><lora:arona_v4:1>1girl, arona (blue archive), cherry blossoms キャラLoRAと併用。アロナとの相性が悪いのか、髪色が安定しない。
Generated by AI <lora:SakuraScenery_v1.3:1><lora:arona_v4:1>1girl, arona (blue archive), cherry blossoms Dim16Alpha8。アロナとの相性が悪いのか、髪色が安定しない。

竹富島

networks.lora, Dim32/Alpha8(convも同じ値)で学習。教師画像は52枚、繰り返し数は8。5824steps回した。

正則化画像よる変化

透明正則化画像16枚使用。
ngとついてるのが正則化画像なし。数字はステップ数。
Image

正則化無しのほうが人物の出現率が高く、汚くなりにくい。

正則化画像よる変化

教師画像に犬が写った写真が1枚あるが、これにdogのタグはつけてない。
5824_ngは水牛車にanimalとcow、犬にanimalとdogをつけた。
Image
5824_ngだけ動物が出現してない。やはりタグ付けは重要。
また、画像内の人物関連のタグは消してはいけない。キャラLoRAとの相性が大幅に悪化する。
Conv2d拡張(LoCon)は過学習に似た結果になることがあるようで、通常のLoRAのほうがいいときもある。

まとめ

背景は低dimで5000steps以下でできるので簡単。dim32以下でよいと思われる。
キャラの出現率が低下するが、強度を下げるかLoRA Block Weightを使用することで改善できる。


画風

ねんどろいど

networks.lora, Dim64/Alpha32(convも同じ値)で学習。教師画像は108枚、繰り返し数は5。4088steps回した。
正則化画像は透明240枚。

Image Prompt Description
Generated by AI <lora:nendoroid_v1.1:1>1girl, nendoroid いけるやん
Generated by AI <lora:nendoroid_v1.1:1>1girl, nendoroid, red hair, bangs, kimono, forest いけるやん(背景は変化しないが)
Generated by AI <lora:nendoroid_v1.1:1><lora:hifumi:1>1girl, nendoroid, hifumi (blue archive), serafuku キャラLoRAと併用。問題なし。

まとめ?

塗りだけを変化させるLoRAならunetだけの学習でいいかもしれない。TextEncoderを切ると構図の影響が減少する。
UNet=塗りなどの言語化できない概念への影響大。TextEncoder=単語と画像の特徴を紐づけるもの。構図への影響大。

検証

512,768,1024の違い

原神LoRAメモでは効果が無かったので、別のキャラで再度学習時の解像度による再現性の変化を検証。
コマンドは自作のGUIで生成。解像度と省メモリ設定(gradient_checkpointing, mem_eff_atten)以外は共通。
教師画像は64枚、正則化は透明240枚
Step数は4096
accelerate launch --num_cpu_threads_per_process 16 train_network.py --pretrained_model_name_or_path="G:\sd_train\Train\nai_full.ckpt" --train_data_dir="G:\sd_train\Train\shiroko\train" --output_dir="G:\sd_train\Train\shiroko\out" --reg_data_dir="G:\sd_train\Train\Lora_RegImageA240" --network_module=lycoris.kohya --network_args "algo=lora" "conv_dim=64" "conv_alpha=32" --mem_eff_attn --gradient_checkpointing --persistent_data_loader_workers --color_aug --enable_bucket --save_model_as="safetensors" --lr_scheduler_num_cycles=4 --mixed_precision=fp16 --learning_rate=0.0001 --resolution=1024,1024 --train_batch_size=1 --max_train_epochs=4 --network_dim=64 --network_alpha=32 --shuffle_caption --keep_tokens=1 --optimizer_type="AdamW8bit" --lr_warmup_steps=100 --output_name="shiroko_1024" --clip_skip=2 --seed=42 --save_precision="fp16" --lr_scheduler=cosine_with_restarts --min_bucket_reso=320 --max_bucket_reso=2048 --caption_extension=".txt"

画像を右クリックで別ウィンドウで開くと見やすい。

生成解像度 Prompt Image Description
512x512 <lora:shiroko_512:1>1girl, shiroko (blue archive), school uniform, id card, gloves, blue necktie Generated by AI よくなったよね?
768x768 Generated by AI
1024x1024 Generated by AI
512x768 <lora:shiroko_512:1>1girl, shiroko (blue archive), school uniform, id card, gloves, blue necktie, cityscape, looking at viewer Generated by AI 512でもたまに出る
↑のHighes.fix(2倍) Generated by AI 1024が最も再現度が高い
512x768 <lora:shiroko_512:1>1girl, shiroko (blue archive), school uniform, (id card:1.1), gloves, blue necktie, city Generated by AI 1024は安定して三角形が出る。ABYDOSの文字と太陽までは出ない

1024はid cardのアビドスの模様が最も正確に出ている。
768でもある程度再現できた。512はほとんど溶けてしまった。

まとめ

1024pxで精細な模様の再現性が向上する可能性がある。ただし、かえって品質が低下する場合があるので注意。
前回の検証では効果が出なかったのは文字などの複雑な模様がなかったのが原因かもしれない。
つまり、対象の特徴が単純だと効果が低いかも。というかSD1.5の限界。


タグについて

この項目はnoteに移行しました。こちらをご覧ください
https://note.com/redrayz/n/nad10f496848e


正則化画像の検証

正則化画像の種類でどう変化するか検証。4つのパターンで検証。
ちな正化(Regularization)と正化(Normalization)は別物やで!

  • 正則化無し
  • Booruサイトの画像64枚
    適当に64枚集めた画像
  • NAIの画像64枚
    1girlだけで64枚生成したもの
  • 透明64枚

教師画像は128枚。繰り返しは4(1ep=512steps)。総step数は4096(Batch1相当)。学習に用いたモデルはNAI。正則化画像のkeep tokenは0に設定。
コマンド:
accelerate launch --num_cpu_threads_per_process 16 train_network.py --pretrained_model_name_or_path="D:\sd_train\Train\nai_full.ckpt" --train_data_dir="D:\sd_train\Train\mika\train" --output_dir="D:\sd_train\Train\mika\out" --network_module="networks.lora" --network_args "conv_dim=64" "conv_alpha=28" --xformers --color_aug --persistent_data_loader_workers --max_data_loader_n_workers=1 --enable_bucket --save_model_as="safetensors" --lr_scheduler_num_cycles=4 --mixed_precision="fp16" --learning_rate=0.0001 --resolution=512,512 --train_batch_size=2 --max_train_epochs=8 --network_dim=64 --network_alpha=28 --shuffle_caption --keep_tokens=1 --optimizer_type="AdamW" --lr_warmup_steps=500 --output_name="mika_noreg" --clip_skip=2 --seed=42 --save_precision="fp16" --lr_scheduler="cosine_with_restarts" --min_bucket_reso=320 --max_bucket_reso=1536 --caption_extension=".txt"

比較

noregが正則化無し、booru64がbooruサイトの画像64枚、nai64がNAI64枚、trans64が透明64枚。

Prompt: <lora:mika_noreg:1>1girl, mika \(blue archive\), white capelet
Negative Prompt(共通): lowres, bad anatomy, signature

再現度確認の参考に:Danbooru検索(閲覧注意)「mika_(blue_archive)」

使用モデル: NAI(fp16,pruned)
Image
使用モデル: 自家製闇鍋マージモデル(NAI+Any4.5 MBW=BaseA, BaseA+Counterfeit2.5 MBW=BaseB, BaseB+NostalgiaClear MBW=完成品)
Image
booru64は衣装の再現度が低下した。nai64は全体的に粗くなった。透明64はよくわからない。

Prompt: <lora:mika_noreg:1>1girl, mika \(blue archive\), town
使用モデル: 自家製闇鍋マージモデル
Image
booru64は衣装の再現度が低下した。nai64は全体的に粗くなった。透明64はよくわからない。

Prompt:<lora:mika_noreg:1>1girl, mika \(blue archive\), in the school classroom
使用モデル: 自家製闇鍋マージモデル
Image
nai64以外で大きな違いはない。

Prompt:<lora:mika_noreg:1>1girl, mika \(blue archive\), snowy forest, coat
使用モデル: 自家製闇鍋マージモデル
Image
nai64とbooru64はタグを集約しなかった部分(衣装)がいい感じに変化する。

Prompt:<lora:mika_noreg:1>1girl, mika \(blue archive\), white capelet, night view
Negative Prompt: lowres, bad anatomy, signature, cape
Image
white capeletと衣装を指定したらすべていい感じに再現した。
ネガのcapeは岬のcapeが出ないようにするためのもの。

まとめ

  • 透明画像は無意味。 あとStable Diffusionはアルファ値は使用しない。そりゃ情報の無い画像を渡しても意味ないよな
  • 正則化ありでは衣装のタグがない場合の衣装の再現度が低下した。
  • AI製の画像は品質低下の原因となるため、使用してはならない。
  • 衣装固定(再現性優先)でいいなら正則化無しでいい。
  • 着せ替えしたいならBooruサイトの画像を使うのがよさそう。ただしわずかに品質が低下する?

本来正則化は、あるものを覚えた代わりに別のものを忘れてしまうという問題を回避するためのもの。
例:鳥獣戯画カエルをshs frogで学習すると、frogで普通のカエルが出なくなる。そこで、学習中に正則化画像として普通のカエルの画像を渡すことで問題を改善できる。

つまり、学習対象だけ出てくればいいなら正則化は不要。


576pxだと学習が速いって本当かな

なんかそういうデータあるんですか?

学習解像度が576ピクセルだと学習がかなり速く進むという迷信があるらしい。
効果ないだろうけど検証。

OptimizerはAdamW8bit,LRは0.0001,Dim/Aplhaは64/12。バッチサイズ2。画像内で表示しているステップ数はbatch1換算。

画像を右クリックして別タブで開くと見やすい。
Image
ええと。。。ちな腕章にJとJusticeという文字が書かれているはずだがうまく出ない。SD1.Xの限界。ヘイローが溶けてるのはいつものこと。
再現度確認の参考に:Danbooru検索(閲覧注意)「ichika_(blue_archive)」

-
Image
何が変わったのか、分かりません
再現度確認の参考に:Danbooru検索(閲覧注意)「koharu_(blue_archive)」

-
Image
エッチなのは駄目!死刑!
再現度確認の参考に:Danbooru検索(閲覧注意)「hinata_(blue_archive)」

効果はなかった。知ってた。


Optimizerの速度

この項目はnoteに移行しました。こちらをご覧ください
https://note.com/redrayz/n/n6dce02a57498


SDXL

VRAM8GBの貧民なのでほとんどの項目でfp8_baseを使用して学習。

SD1.5とSDXLの差異

パラメータ数が約3倍に増加した。解像度が1024x1024に上がった。つまり、記憶力が3倍以上。
個人的に感じる変化をピックアップ。

  • 細部の描画力が大幅に向上
    文字やヘイローなどが崩れにくい。目の描画が明らかに良い。ドロドロに溶けていた瞳が改善。SD1.5のhighres.fixにあった霞んだような質感がない。
  • 語彙力が大幅に向上
    LoRAなしで出せるキャラが増えた。
  • 破綻が減少
    物体や人体の崩壊が減少。構図の破綻も減少。
  • 画風の再現力が大幅に向上
  • 嗜好に沿った絵が出やすい
  • 基礎解像度が高い
    highres.fixなしでも高品質
  • 高性能な分メモリ消費が激しい
  • highres.fix使用時の(SD1.5と比較して)ディテールの変化が意外と小さい?
    がhighres.fixなしでそこそこの解像度で出せるしhires.fix使用でFHDサイズの画像が簡単に出せる
  • 指示されたとおりにしか生成しない
    sd1.5のように勝手に背景を盛ったりすることがない

学習に使うウェイト(SDXL)

四つのcheckpointで比較する。
Dim8/Alpha2,OpimizerはDAdaptLion,stepsは4800。
学習に使ったcheckpointはv3がanimaigine-xl-3.0,anibaseがanimagine-xl-3.0-base,xlbaseがsd_xl_base_1.0,kohakuxlがKohakuXLBeta7。出力はいずれもAnimagine-XL-3.0を使用。

Image Image
Image Image
Image N/A

SDXL Baseは少し暗いし画風が若干変化して吹き出しを学習したっぽい。
KohakuXLは汚くなったし余計な物も学習したっぽい。danbooru語の応答性も悪い。もしかして「150万枚の画像で学習しました!」と書いといてunetだけってオチ?
AnimagineXL3が最も良い。AnimagineXL3baseは画風が変化した。

SDXL 1024 vs 512

SDXLは本来1024pxで学習するが、512pxでやるとどうなるか検証。

1024 512 画像サイズ調整用
Image Image                    

髪の描き方が変化した

上記のサンプルでは良いが実際のところ以下のように破綻しやすくなるので低解像度の学習は非推奨。

Resolution Image Description
512 Image SD1.5かな?                                             -

TEの有無(SDXL)

こちらをご覧ください
https://note.com/redrayz/n/ncf8b8d9c6b22

SDXLのDim(rank)

この項目はnoteに移行しました。こちらをご覧ください
https://note.com/redrayz/n/n69d696d72a80

SDXLの階層

この項目はnoteに移行しました。こちらをご覧ください
https://note.com/redrayz/n/n909cb213ba5a

DoRA(SDXL)

この項目はnoteに移行しました。こちらをご覧ください
https://note.com/redrayz/n/n24bd286f5755

画風(LoRA vs DoRA with Scheduled Huber Loss)

Note

このページが肥大化してきたため、noteに移行しました。

この項目はnoteに移行しました。こちらをご覧ください
https://note.com/redrayz/n/nadfa9bf435b4

Scheduled Huber Loss(SDXL)

この項目はnoteに移行しました。こちらをご覧ください
https://note.com/redrayz/n/nadfa9bf435b4

PonyV6のLR

D-Adaptation系Optimizerだと発散を起こしやすい。
LR=1で自動決定のLRが0.0015まで上がるようで、これはかなり高い数値に見える。
そのため、LRを低めに設定してもいいだろう。

Image
青がLR=1で赤がLR=0.5

SDXLのPCスペック

余裕はないが推論・学習(fp8_base有効)ともにVRAM8GBでできるが、CUDAコアのパワーが欲しくなるので4070以上がいい。
メインメモリはとんでもない消費量。16GBでは不足する。32GB以上必要。
生成はComfyUI、FooocusまたはForgeがAUTOMATIC1111より省メモリで良い。Fooocusは最低4GBのVARMと8GBのRAMでできるらしい。


sd-scriptsでReLoRA?

注意!!

ここでのReLoRAは本来のものとは異なり、sd-scriptsで手法を真似しただけなのでご了承を。

本来のReLoRAは情報が少なすぎてやり方がわからん。

ReLoRAとは、LoRAを利用してウェイトをファインチューンや事前学習をするもの。
つまり、一般向けのグラボで二次絵SDXLとかNSFW特化モデルが作れる。

手順は以下の通り
1.LoRAで学習する
2.できたLoRAを元のモデルにマージ
3.マージしたモデルでLRを下げてLoRAで学習
4.できたLoRAを先程マージしてできたモデルにマージ
5.納得がいくまで3-4を繰り返す

実践

  • データセットの準備
    教師画像はblue_archiveタグが付いた画像を44417枚用意。合計ファイルサイズは126GiB
    画像DL時にartistタグを取り除いたDanbooruタグ方式のキャプションも作成。
    キャプションにDanbooruスコアが6点以上のものにhigh quality、18点以上にbest quality、60点以上にmasterpieceを追加。
    ちなみに、DLで四時間、リサイズで40分、latentキャッシュで二時間もかかった。
  • 学習
    学習モデルは秘伝のタレ(非公開モデル)。
    学習が終わったら仕上げにメモリアルの画像を学習->マージを二回繰り返す。

学習設定:
SD1.5, Dim:128, Alpha:24, 解像度:768, バッチサイズ:5, オプティマイザ:Adamw8bit, LRスケジューラ:constant、constant_with_wamupまたはcosine_with_restart, C3Lier(LoCon), cache_latents, gradient_checkpointing

結果

解像度はいずれも640x896。
TurquoiseMix_v0.9が学習元、Turquoise_finalが最終epochでTurqoiseが仕上げ後。
Prompt: "1girl, solo, yuuka \(blue archive\), outdoors, hands up, upper body, blue sky" Negative prompt: "worst quality, lowres"
Image
指が良くなった・・・?

Prompt: "1girl, solo, masterpiece, absurdres, forest, looking at viewer, rio \(blue archive\), halo, dress, light rays, upper body" Negative prompt: "worst quality, lowres, no humans"
Image

Prompt: "1girl, solo, absurdres, looking at viewer, haruka \(blue archive\), halo, beach, blue sky, upper body" Negative prompt: "worst quality, lowres, no humans, nude"
Image
マイナーキャラ(データセット内に186枚)なのに意外と反応してる

学習初期は品質が低下するが後期は改善。
...実際には品質がブレまくって扱いづらい。プロンプトを盛らないと安定しない印象がある。

枚数の多いキャラは名前だけで出る。
シャープネスが向上してフィルムグレインが発生するようになった。

まとめ

品質が安定せずなんとも言えない微妙な結果になった。NSFWに至ってはグレースケール化連発か破綻で使い物にならない(過学習?)。指も改善した気がする程度。
学習元を変えるかハイパーパラメータを調整するべきかな。

学習元がきれい(小並感)

次元数(DimまたはRank)の比較

キャラは64でいいなど言っているが、それ未満の値でどうなるか気になったので比較。
個別に学習はさすがに面倒くさいのでresize_lora.pyでリサイズした。通常のLoRA学習でも結果は同様。
SDのバージョンは1.5。

再現度確認の参考に:Danbooru検索(閲覧注意)「miyu_(swimsuit)_(blue_archive)
Image

再現度確認の参考に:Danbooru検索(閲覧注意)「noa_(blue_archive)」
Image
8以下で劣化?
Image
マジか…

  • 画風
    Image

かなり削っても再現度の低下が少ないようだ。キャラも画風もnetwork_dimは16でいいかな
ファイルサイズはdim16,IN04-07,OUT03-06のみで11.9MiBになる。

SDXLは高性能かつファイルサイズが大きいため16以下で良い。


その他

キャラLoRAの最適解(SD1.X)

  • 学習に使うウェイトはanimefull
  • 教師画像はできるだけ多く(50枚以上)
  • networks.lora
  • 4000-6000steps,Dim4-16/Alphaはdimの4分の1
  • 畳み込み層はほぼ影響ないのでconv_dimとかの指定はいらない
  • OptimizerはDAdaptation系(LR=1)
  • IN04-07,OUT03-06だけでいい
  • キャプションはそのままでもいいし、身体的特徴を消して1タグにまとめてもいい

キャラLoRAの最適解(SDXL)

  • 学習に使うウェイトはマージモデル以外
  • 教師画像はできるだけ多く(30枚以上)
  • networks.lora
  • 2500-4000steps,Dim4-16/Alphaはdimの4分の1
  • OptimizerはLionかLion8bit(LR=0.0001)
  • キャプションはそのままでいい。Animagine推奨の並びにしなくてもいい
  • full_fp16/bf16は絶対に使うな!!オンだとなにも学習しない!(--mixed_precisionではない)
  • fp8_baseを使えば8GBでTEとConv込みで学習可
Edit
Pub: 08 Apr 2023 07:14 UTC
Edit: 09 May 2024 10:52 UTC
Views: 21645