Spaces:

mrmax14
/

Thera

Runtime error

mrmax14 commited on Jan 27

Commit

ff6dcdf

1 Parent(s): 544ff8e

init commit

Files changed (1) hide show

app.py CHANGED Viewed

@@ -28,7 +28,7 @@ accelerator = Accelerator()
 # Завантажуємо модель на CPU з використанням автентифікації
 model = AutoModelForCausalLM.from_pretrained(
     model_id,
-    device_map="cpu",  # Завантажуємо модель на CPU
     use_auth_token=hf_token,
     low_cpu_mem_usage=True
 )

 # Завантажуємо модель на CPU з використанням автентифікації
 model = AutoModelForCausalLM.from_pretrained(
     model_id,
+    # device_map="cpu",  # Пробуйте без цього параметра
     use_auth_token=hf_token,
     low_cpu_mem_usage=True
 )