Update app.py
Browse files
app.py
CHANGED
|
@@ -28,8 +28,6 @@ lora_weights = LoraConfig(
|
|
| 28 |
revision=null,
|
| 29 |
target_modules=["q_proj","k_proj","v_proj","o_proj","gate_proj","up_proj","down_proj"],
|
| 30 |
task_type="CAUSAL_LM",
|
| 31 |
-
lora_alpha=32,
|
| 32 |
-
target_modules=["to_k", "to_q", "to_v", "to_out"],
|
| 33 |
)
|
| 34 |
|
| 35 |
cache_dir = "/data"
|
|
|
|
| 28 |
revision=null,
|
| 29 |
target_modules=["q_proj","k_proj","v_proj","o_proj","gate_proj","up_proj","down_proj"],
|
| 30 |
task_type="CAUSAL_LM",
|
|
|
|
|
|
|
| 31 |
)
|
| 32 |
|
| 33 |
cache_dir = "/data"
|