vitorandrade commited on
Commit
ef10c15
·
verified ·
1 Parent(s): c10739f

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +20 -1
app.py CHANGED
@@ -14,10 +14,17 @@ tokenizer = AutoTokenizer.from_pretrained(base_model)
14
  model = AutoModelForCausalLM.from_pretrained(base_model)
15
  model = PeftModel.from_pretrained(model, model_peft)
16
 
 
 
 
 
 
 
17
 
18
 
19
  # Define a função para gerar respostas
20
  def generate_response(model, tokenizer, prompt, max_length=512, num_return_sequences=1):
 
21
  # Tokenizando o prompt de entrada
22
  inputs = tokenizer(prompt, return_tensors='pt')
23
 
@@ -36,7 +43,19 @@ def generate_response(model, tokenizer, prompt, max_length=512, num_return_seque
36
 
37
  # Tokenizar a resposta gerada
38
  response = tokenizer.decode(outputs[0], skip_special_tokens=True)
39
- return response
 
 
 
 
 
 
 
 
 
 
 
 
40
 
41
  # Define a função para responder às perguntas
42
  def answer_question(context, question):
 
14
  model = AutoModelForCausalLM.from_pretrained(base_model)
15
  model = PeftModel.from_pretrained(model, model_peft)
16
 
17
+ #Uma maquiagem pra deixar a resposta com a primeira letra em maiusculo
18
+ def capitalize(text):
19
+ if text:
20
+ return text[0].upper() + text[1:]
21
+ return text
22
+
23
 
24
 
25
  # Define a função para gerar respostas
26
  def generate_response(model, tokenizer, prompt, max_length=512, num_return_sequences=1):
27
+
28
  # Tokenizando o prompt de entrada
29
  inputs = tokenizer(prompt, return_tensors='pt')
30
 
 
43
 
44
  # Tokenizar a resposta gerada
45
  response = tokenizer.decode(outputs[0], skip_special_tokens=True)
46
+
47
+ # Encontrar o início da resposta (após "###Resposta:")
48
+ response_start_index = response.find("### Resposta:") + len("### Resposta:")
49
+ response_text = response[response_start_index:].strip()
50
+
51
+ # A primeira letra da resposta maiuscula
52
+ response_text = capitalize(response_text)
53
+
54
+ # Reconstruir a resposta completa com a primeira letra maiuscula
55
+ final_response = response[:response_start_index] + " " + response_text
56
+
57
+ return final_response
58
+
59
 
60
  # Define a função para responder às perguntas
61
  def answer_question(context, question):