Spaces:
Runtime error
Runtime error
Update app.py
Browse files
app.py
CHANGED
@@ -14,10 +14,17 @@ tokenizer = AutoTokenizer.from_pretrained(base_model)
|
|
14 |
model = AutoModelForCausalLM.from_pretrained(base_model)
|
15 |
model = PeftModel.from_pretrained(model, model_peft)
|
16 |
|
|
|
|
|
|
|
|
|
|
|
|
|
17 |
|
18 |
|
19 |
# Define a função para gerar respostas
|
20 |
def generate_response(model, tokenizer, prompt, max_length=512, num_return_sequences=1):
|
|
|
21 |
# Tokenizando o prompt de entrada
|
22 |
inputs = tokenizer(prompt, return_tensors='pt')
|
23 |
|
@@ -36,7 +43,19 @@ def generate_response(model, tokenizer, prompt, max_length=512, num_return_seque
|
|
36 |
|
37 |
# Tokenizar a resposta gerada
|
38 |
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
|
39 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
40 |
|
41 |
# Define a função para responder às perguntas
|
42 |
def answer_question(context, question):
|
|
|
14 |
model = AutoModelForCausalLM.from_pretrained(base_model)
|
15 |
model = PeftModel.from_pretrained(model, model_peft)
|
16 |
|
17 |
+
#Uma maquiagem pra deixar a resposta com a primeira letra em maiusculo
|
18 |
+
def capitalize(text):
|
19 |
+
if text:
|
20 |
+
return text[0].upper() + text[1:]
|
21 |
+
return text
|
22 |
+
|
23 |
|
24 |
|
25 |
# Define a função para gerar respostas
|
26 |
def generate_response(model, tokenizer, prompt, max_length=512, num_return_sequences=1):
|
27 |
+
|
28 |
# Tokenizando o prompt de entrada
|
29 |
inputs = tokenizer(prompt, return_tensors='pt')
|
30 |
|
|
|
43 |
|
44 |
# Tokenizar a resposta gerada
|
45 |
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
|
46 |
+
|
47 |
+
# Encontrar o início da resposta (após "###Resposta:")
|
48 |
+
response_start_index = response.find("### Resposta:") + len("### Resposta:")
|
49 |
+
response_text = response[response_start_index:].strip()
|
50 |
+
|
51 |
+
# A primeira letra da resposta maiuscula
|
52 |
+
response_text = capitalize(response_text)
|
53 |
+
|
54 |
+
# Reconstruir a resposta completa com a primeira letra maiuscula
|
55 |
+
final_response = response[:response_start_index] + " " + response_text
|
56 |
+
|
57 |
+
return final_response
|
58 |
+
|
59 |
|
60 |
# Define a função para responder às perguntas
|
61 |
def answer_question(context, question):
|