anhvv200053 commited on
Commit
0dfd905
·
verified ·
1 Parent(s): dc745aa

Update model_setup.py

Browse files
Files changed (1) hide show
  1. model_setup.py +2 -0
model_setup.py CHANGED
@@ -11,6 +11,8 @@ bnb_config = BitsAndBytesConfig(
11
 
12
  # Thiết lập mô hình và tokenizer
13
  def load_model():
 
 
14
  model = AutoModelForCausalLM.from_pretrained(
15
  "anhvv200053/Vinallama-2-7B-updated1-instruction-v2",
16
  quantization_config=bnb_config,
 
11
 
12
  # Thiết lập mô hình và tokenizer
13
  def load_model():
14
+ token = os.getenv("HF_TOKEN") # Lấy token từ biến môi trường
15
+
16
  model = AutoModelForCausalLM.from_pretrained(
17
  "anhvv200053/Vinallama-2-7B-updated1-instruction-v2",
18
  quantization_config=bnb_config,