Update README.md
Browse files
README.md
CHANGED
@@ -15,6 +15,34 @@ datasets:
|
|
15 |
- p1atdev/niji-v5
|
16 |
library_name: diffusers
|
17 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
18 |
|
19 |
# モデルの説明
|
20 |
アニメ調に寄せた「[SDXL(stable-diffusion-xl-base-1.0)](https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0)」モデルです。内容は「[niji-v5](https://huggingface.co/datasets/p1atdev/niji-v5)」データセットでLoRAファインチューニングしてマージしたモデルです。
|
|
|
15 |
- p1atdev/niji-v5
|
16 |
library_name: diffusers
|
17 |
---
|
18 |
+
# 更新履歴
|
19 |
+
- 2023年8月7日
|
20 |
+
|
21 |
+
nijijourneyの画像4500枚ぐらいでフルファインチューニングしました。fp16で壊れないVAEに取り替えました。
|
22 |
+
|
23 |
+
以下フルファインチューニングのハイパーパラメータですが学習率が低すぎたようで絵があまり変化しませんでした。次回は学習率を上げようと思います。
|
24 |
+
|
25 |
+
| ハイパーパラメータ | 値 |
|
26 |
+
|-----------------------|-------------------------------------|
|
27 |
+
| GPU | RTX3090 24GB |
|
28 |
+
| optimizer_type | Lion |
|
29 |
+
| optimizer_args | weight_decay=0.015, betas=.9,.999 |
|
30 |
+
| learning_rate | 1e-7 |
|
31 |
+
| lr_scheduler | cosine |
|
32 |
+
| gradient_checkpointing| |
|
33 |
+
| mixed_precision | bf16 |
|
34 |
+
| full_bf16 | |
|
35 |
+
| max_token_length | 225 |
|
36 |
+
| min_snr_gamma | 5 |
|
37 |
+
| noise_offset | 0.0357 |
|
38 |
+
| max_train_epochs | 5 |
|
39 |
+
| batch_size | 10 |
|
40 |
+
| enable_bucket | true |
|
41 |
+
| resolution | [1024,1024] |
|
42 |
+
|
43 |
+
- 2023年8月1日
|
44 |
+
|
45 |
+
nijijourneyの画像100枚ぐらいでLoRAファインチューニングなどをしました。
|
46 |
|
47 |
# モデルの説明
|
48 |
アニメ調に寄せた「[SDXL(stable-diffusion-xl-base-1.0)](https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0)」モデルです。内容は「[niji-v5](https://huggingface.co/datasets/p1atdev/niji-v5)」データセットでLoRAファインチューニングしてマージしたモデルです。
|