giannantonio15 commited on
Commit
edd0584
·
1 Parent(s): 49cabbd

aggiunto iperparametri LLM

Browse files
Files changed (1) hide show
  1. utils.py +4 -0
utils.py CHANGED
@@ -36,6 +36,10 @@ def setLLM():
36
  "do_sample": True,
37
  "min_length": 50, # Lunghezza minima della risposta generata
38
  "no_repeat_ngram_size": 5, # Evita la ripetizione di n-grammi
 
 
 
 
39
  }
40
 
41
  # Define the prompt template
 
36
  "do_sample": True,
37
  "min_length": 50, # Lunghezza minima della risposta generata
38
  "no_repeat_ngram_size": 5, # Evita la ripetizione di n-grammi
39
+ "temperature": 0.3,
40
+ "early_stopping": True, # Fermare la generazione quando un risultato completo è trovato
41
+ "top_p": 0.95,
42
+ "top_k": 10,
43
  }
44
 
45
  # Define the prompt template