Spaces:
Runtime error
Runtime error
Update model_setup.py
Browse files- model_setup.py +2 -0
model_setup.py
CHANGED
@@ -11,6 +11,8 @@ bnb_config = BitsAndBytesConfig(
|
|
11 |
|
12 |
# Thiết lập mô hình và tokenizer
|
13 |
def load_model():
|
|
|
|
|
14 |
model = AutoModelForCausalLM.from_pretrained(
|
15 |
"anhvv200053/Vinallama-2-7B-updated1-instruction-v2",
|
16 |
quantization_config=bnb_config,
|
|
|
11 |
|
12 |
# Thiết lập mô hình và tokenizer
|
13 |
def load_model():
|
14 |
+
token = os.getenv("HF_TOKEN") # Lấy token từ biến môi trường
|
15 |
+
|
16 |
model = AutoModelForCausalLM.from_pretrained(
|
17 |
"anhvv200053/Vinallama-2-7B-updated1-instruction-v2",
|
18 |
quantization_config=bnb_config,
|