Update app.py
Browse files
app.py
CHANGED
@@ -5,11 +5,8 @@ import gradio as gr
|
|
5 |
# Crear un cliente de inferencia para el modelo preentrenado Mixtral-8x7B-Instruct-v0.1
|
6 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
7 |
|
8 |
-
prompt= "Experto en servicios de abastecimiento, depuracion, reutilizacion y calidad del agua, para la empresa Canal de Isabel II"
|
9 |
-
system_prompt= "Experto en servicios de abastecimiento, depuracion, reutilizacion y calidad del agua, para la empresa Canal de Isabel II"
|
10 |
-
|
11 |
# Función para formatear el prompt con historial
|
12 |
-
def format_prompt(message, history, system_prompt):
|
13 |
prompt = "<s>"
|
14 |
for user_prompt, bot_response in history:
|
15 |
prompt += f"[INST] {user_prompt} [/INST]"
|
|
|
5 |
# Crear un cliente de inferencia para el modelo preentrenado Mixtral-8x7B-Instruct-v0.1
|
6 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
7 |
|
|
|
|
|
|
|
8 |
# Función para formatear el prompt con historial
|
9 |
+
def format_prompt(message, history, system_prompt="Experto en servicios de abastecimiento, depuracion, reutilizacion y calidad del agua, para la empresa Canal de Isabel II"):
|
10 |
prompt = "<s>"
|
11 |
for user_prompt, bot_response in history:
|
12 |
prompt += f"[INST] {user_prompt} [/INST]"
|