Update main.py

main.py

@@ -8,10 +8,11 @@ app = FastAPI()
 llm = None
 
 def start_llm():
+    global llm  # Adicione esta linha para modificar a variável global
     llm = Llama(model_path="./tinyllama-1.1b-chat.gguf")
     
- 
 @app.post("/health")
+def health_check():
     return {"status": "ok"}
 
 @app.post("/deployllm")
@@ -29,5 +30,4 @@ async def stream(item: dict):
     
     return llm(prompt, max_tokens=max_tokens, temperature=temperatura)
     
-    
-threading.Thread(target=start_llm).start()
+threading.Thread(target=start_llm).start()