AshenClock commited on
Commit
baa2201
·
verified ·
1 Parent(s): 01db8ce

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +9 -14
app.py CHANGED
@@ -57,34 +57,29 @@ Regole:
57
  - Restituisci esclusivamente una query SPARQL in **una sola riga**.
58
  """
59
 
60
- # Funzione per inviare la richiesta al modello Hugging Face
61
  async def generate_response(message, max_tokens, temperature):
62
  system_message = create_system_message(rdf_context)
 
 
 
63
  messages = [
64
  {"role": "system", "content": system_message},
65
  {"role": "user", "content": message}
66
  ]
 
67
  try:
68
- # Invoca il modello Hugging Face
69
- stream = client.chat.completions.create(
70
  model="Qwen/Qwen2.5-72B-Instruct",
71
  messages=messages,
72
  temperature=temperature,
73
  max_tokens=max_tokens,
74
  top_p=0.7,
75
- stream=True
76
  )
77
-
78
- response = ""
79
- for chunk in stream:
80
- if "choices" in chunk and len(chunk["choices"]) > 0:
81
- response += chunk["choices"][0]["delta"]["content"]
82
-
83
- # Rimuovi formattazioni multilinea e restituisci in una sola riga
84
- response = response.replace("\n", " ").strip()
85
- print(response)
86
- return response
87
  except Exception as e:
 
88
  raise HTTPException(status_code=500, detail=f"Errore nell'elaborazione: {str(e)}")
89
 
90
  # Endpoint per generare query SPARQL
 
57
  - Restituisci esclusivamente una query SPARQL in **una sola riga**.
58
  """
59
 
 
60
  async def generate_response(message, max_tokens, temperature):
61
  system_message = create_system_message(rdf_context)
62
+ print("System Message:", system_message) # Debug del messaggio di sistema
63
+ print("User Message:", message) # Debug del messaggio utente
64
+
65
  messages = [
66
  {"role": "system", "content": system_message},
67
  {"role": "user", "content": message}
68
  ]
69
+
70
  try:
71
+ response = client.chat.completions.create(
 
72
  model="Qwen/Qwen2.5-72B-Instruct",
73
  messages=messages,
74
  temperature=temperature,
75
  max_tokens=max_tokens,
76
  top_p=0.7,
77
+ stream=False
78
  )
79
+ print("Raw Response:", response) # Debug risposta grezza
80
+ return response['choices'][0]['message']['content'].replace("\n", " ").strip()
 
 
 
 
 
 
 
 
81
  except Exception as e:
82
+ print(f"Errore nell'elaborazione: {str(e)}")
83
  raise HTTPException(status_code=500, detail=f"Errore nell'elaborazione: {str(e)}")
84
 
85
  # Endpoint per generare query SPARQL