Update app.py

app.py

@@ -22,7 +22,7 @@ def load_model():
         model = Llama(
             model_path=model_path,
             n_ctx=2048,        # Размер контекста
-            n_threads=4,       # Количество потоков
+            n_threads=os.cpu_count(),       # Количество потоков
             n_batch=512        # Размер батча
         )