Update README.md
Browse files
README.md
CHANGED
@@ -16,18 +16,19 @@ datasets:
|
|
16 |
library_name: diffusers
|
17 |
---
|
18 |
# 更新履歴
|
19 |
-
- 2023年8月7日
|
20 |
|
21 |
-
|
|
|
22 |
|
23 |
-
|
|
|
24 |
|
25 |
| ハイパーパラメータ | 値 |
|
26 |
|-----------------------|-------------------------------------|
|
27 |
| GPU | RTX3090 24GB |
|
28 |
| optimizer_type | Lion |
|
29 |
| optimizer_args | weight_decay=0.015, betas=.9,.999 |
|
30 |
-
| learning_rate |
|
31 |
| lr_scheduler | cosine |
|
32 |
| gradient_checkpointing| |
|
33 |
| mixed_precision | bf16 |
|
@@ -35,11 +36,18 @@ nijijourneyの画像4500枚ぐらいでフルファインチューニングし
|
|
35 |
| max_token_length | 225 |
|
36 |
| min_snr_gamma | 5 |
|
37 |
| noise_offset | 0.0357 |
|
38 |
-
| max_train_epochs |
|
39 |
| batch_size | 10 |
|
40 |
| enable_bucket | true |
|
41 |
| resolution | [1024,1024] |
|
42 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
43 |
- 2023年8月1日
|
44 |
|
45 |
nijijourneyの画像100枚ぐらいでLoRAファインチューニングなどをしました。
|
@@ -55,7 +63,7 @@ nijijourneyの画像100枚ぐらいでLoRAファインチューニングなど
|
|
55 |
|
56 |
Prompt:
|
57 |
```
|
58 |
-
1girl
|
59 |
```
|
60 |
Negative prompt:
|
61 |
```
|
|
|
16 |
library_name: diffusers
|
17 |
---
|
18 |
# 更新履歴
|
|
|
19 |
|
20 |
+
- 2023年8月11日
|
21 |
+
前回のnijijourneyの画像を混ぜて12000枚で学習しました。
|
22 |
|
23 |
+
以下、最後に行ったフルファインチューニング時のパラメータですが、そこに至るまでいろいろ試しているため以下のパラメータでやると失敗するかもしれません。
|
24 |
+
学習率は4e-7(constant)から4e-06(cosine)の間あたりが良いのかなと思います。
|
25 |
|
26 |
| ハイパーパラメータ | 値 |
|
27 |
|-----------------------|-------------------------------------|
|
28 |
| GPU | RTX3090 24GB |
|
29 |
| optimizer_type | Lion |
|
30 |
| optimizer_args | weight_decay=0.015, betas=.9,.999 |
|
31 |
+
| learning_rate | 4e-6 |
|
32 |
| lr_scheduler | cosine |
|
33 |
| gradient_checkpointing| |
|
34 |
| mixed_precision | bf16 |
|
|
|
36 |
| max_token_length | 225 |
|
37 |
| min_snr_gamma | 5 |
|
38 |
| noise_offset | 0.0357 |
|
39 |
+
| max_train_epochs | 3 |
|
40 |
| batch_size | 10 |
|
41 |
| enable_bucket | true |
|
42 |
| resolution | [1024,1024] |
|
43 |
|
44 |
+
|
45 |
+
- 2023年8月7日
|
46 |
+
|
47 |
+
nijijourneyの画像4500枚ぐらいでフルファインチューニングしました。fp16で壊れないVAEに取り替えました。
|
48 |
+
|
49 |
+
学習率1e-07が低すぎたようで絵があまり変化しませんでした。次回は学習率を上げようと思います。
|
50 |
+
|
51 |
- 2023年8月1日
|
52 |
|
53 |
nijijourneyの画像100枚ぐらいでLoRAファインチューニングなどをしました。
|
|
|
63 |
|
64 |
Prompt:
|
65 |
```
|
66 |
+
1girl, town
|
67 |
```
|
68 |
Negative prompt:
|
69 |
```
|