Spaces:
Runtime error
Runtime error
Update model_setup.py
Browse files- model_setup.py +1 -0
model_setup.py
CHANGED
|
@@ -1,5 +1,6 @@
|
|
| 1 |
import torch
|
| 2 |
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig
|
|
|
|
| 3 |
|
| 4 |
# Cấu hình BitsAndBytes để tải mô hình 4-bit
|
| 5 |
bnb_config = BitsAndBytesConfig(
|
|
|
|
| 1 |
import torch
|
| 2 |
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig
|
| 3 |
+
import os
|
| 4 |
|
| 5 |
# Cấu hình BitsAndBytes để tải mô hình 4-bit
|
| 6 |
bnb_config = BitsAndBytesConfig(
|