Added hf cache

app.py

@@ -16,7 +16,6 @@ llm = LlmBackend()
 _lock = threading.Lock()
     
 SYSTEM_PROMPT = os.environ.get('SYSTEM_PROMPT') or "Ты — русскоязычный автоматический ассистент. Ты максимально точно и отвечаешь на запросы пользователя, используя русский язык."
-
 CONTEXT_SIZE = os.environ.get('CONTEXT_SIZE') or 500 
 ENABLE_GPU = os.environ.get('ENABLE_GPU') or False
 GPU_LAYERS = os.environ.get('GPU_LAYERS') or 0
@@ -52,7 +51,7 @@ if os.path.isdir('/data'):
 
 model = None
 
-MODEL_PATH = snapshot_download(repo_id=repo_name, allow_patterns=model_name) + '/' + model_name
+MODEL_PATH = snapshot_download(repo_id=repo_name, allow_patterns=model_name, cache_dir='/data/hf_cache') + '/' + model_name
 app.logger.info('Model path: ' + MODEL_PATH)
 
 DATASET_REPO_URL = "https://huggingface.co/datasets/muryshev/saiga-chat"