init commit

app.py

@@ -1,14 +1,21 @@
+import os
 from transformers import AutoModelForCausalLM, AutoTokenizer
 
+# Отримуємо токен із змінної середовища
+hf_token = os.getenv("HF_API_TOKEN")
+
+if not hf_token:
+    raise ValueError("HF_API_TOKEN environment variable is not set")
+
 model_name = "meta-llama/Llama-2-7b-chat"
 
 # Завантажуємо токенайзер з використанням авторизації
-tokenizer = AutoTokenizer.from_pretrained(model_name, use_auth_token=True)
+tokenizer = AutoTokenizer.from_pretrained(model_name, use_auth_token=hf_token)
 
 # Завантажуємо модель з використанням авторизації
 model = AutoModelForCausalLM.from_pretrained(
     model_name,
-    use_auth_token=True,
+    use_auth_token=hf_token,
     torch_dtype=torch.float32,  # Використання full precision для CPU
     device_map=None  # Вимкнення автоматичного розподілу по GPU
 )