Update app.py
Browse files
app.py
CHANGED
@@ -20,9 +20,9 @@ from langchain_core.runnables import RunnablePassthrough, RunnableParallel
|
|
20 |
|
21 |
|
22 |
|
23 |
-
model_name= 'mistralai/Mistral-7B-Instruct-v0.2'
|
24 |
|
25 |
-
|
26 |
|
27 |
tokenizer = AutoTokenizer.from_pretrained(model_name)
|
28 |
tokenizer.pad_token = tokenizer.unk_token
|
@@ -173,7 +173,7 @@ def generate_with_filters(message, subject_input, rubric, date_beg, date_end):
|
|
173 |
context = ret.get_relevant_documents(message)
|
174 |
|
175 |
result = rag_chain_with_filters.invoke(message)
|
176 |
-
return
|
177 |
|
178 |
def summarize_act(message, act_number):
|
179 |
template = """" [INST] Ти асистент для надання відповідей з законодавства України.На вхід ти отримав один закон, підсуму його простими словами, викинь формальності та стандартні фрази. Додай усі зміни, які згадуються і цьому документі і опиши їх трьома реченнями. Якщо контекст пустий - пиши "Я не маю релевантної інформації. Спробуйте ще".
|
@@ -199,8 +199,8 @@ def summarize_act(message, act_number):
|
|
199 |
{"context": ret2 , "question": RunnablePassthrough()}
|
200 |
).assign(answer=rag_chain_from_docs)
|
201 |
context = ret2.get_relevant_documents(message)
|
202 |
-
|
203 |
-
return context
|
204 |
|
205 |
def generate_answer(message, history, checkbox, subject_input, rubric, date_beg, date_end, act_number):
|
206 |
result = ""
|
@@ -222,8 +222,8 @@ def generate_answer(message, history, checkbox, subject_input, rubric, date_beg,
|
|
222 |
result = generate_with_filters(message, subject_input, rubric, date_beg, date_end)
|
223 |
|
224 |
|
225 |
-
|
226 |
-
|
227 |
return result
|
228 |
|
229 |
|
|
|
20 |
|
21 |
|
22 |
|
23 |
+
#model_name= 'mistralai/Mistral-7B-Instruct-v0.2'
|
24 |
|
25 |
+
model_name='SherlockAssistant/Mistral-7B-Instruct-Ukrainian'
|
26 |
|
27 |
tokenizer = AutoTokenizer.from_pretrained(model_name)
|
28 |
tokenizer.pad_token = tokenizer.unk_token
|
|
|
173 |
context = ret.get_relevant_documents(message)
|
174 |
|
175 |
result = rag_chain_with_filters.invoke(message)
|
176 |
+
return result
|
177 |
|
178 |
def summarize_act(message, act_number):
|
179 |
template = """" [INST] Ти асистент для надання відповідей з законодавства України.На вхід ти отримав один закон, підсуму його простими словами, викинь формальності та стандартні фрази. Додай усі зміни, які згадуються і цьому документі і опиши їх трьома реченнями. Якщо контекст пустий - пиши "Я не маю релевантної інформації. Спробуйте ще".
|
|
|
199 |
{"context": ret2 , "question": RunnablePassthrough()}
|
200 |
).assign(answer=rag_chain_from_docs)
|
201 |
context = ret2.get_relevant_documents(message)
|
202 |
+
return rag_chain_summarize.invoke("")
|
203 |
+
#return context
|
204 |
|
205 |
def generate_answer(message, history, checkbox, subject_input, rubric, date_beg, date_end, act_number):
|
206 |
result = ""
|
|
|
222 |
result = generate_with_filters(message, subject_input, rubric, date_beg, date_end)
|
223 |
|
224 |
|
225 |
+
result['answer'] =result['answer'].split("[/INST]")[-1].strip()
|
226 |
+
formatted_results = format_result(result)
|
227 |
return result
|
228 |
|
229 |
|