Update app.py
Browse files
app.py
CHANGED
@@ -35,7 +35,7 @@ def generate(
|
|
35 |
|
36 |
# Formatear el prompt y obtener la respuesta del modelo de manera continua
|
37 |
formatted_prompt = format_prompt(prompt, history, system_prompt)
|
38 |
-
stream = client.text_generation(
|
39 |
output = ""
|
40 |
|
41 |
# Iterar a través de las respuestas en el stream
|
@@ -45,7 +45,7 @@ def generate(
|
|
45 |
return output
|
46 |
|
47 |
# Configurar inputs adicionales para la interfaz Gradio
|
48 |
-
|
49 |
# Entrada de texto para el System Prompt (puedes omitir esto si no lo necesitas)
|
50 |
gr.Textbox(
|
51 |
label="System Prompt",
|
@@ -53,7 +53,7 @@ def generate(
|
|
53 |
max_lines=30,
|
54 |
interactive=False,
|
55 |
)
|
56 |
-
|
57 |
|
58 |
# Crear una interfaz de chat Gradio con el modelo generativo
|
59 |
gr.ChatInterface(
|
@@ -70,7 +70,7 @@ gr.ChatInterface(
|
|
70 |
),
|
71 |
textbox=gr.Textbox(placeholder="¿Qué parámetros definen la calidad del agua?", container=False, scale=7),
|
72 |
theme="soft",
|
73 |
-
|
74 |
title="Mixtral 8B Fines didácticos Asistente de usuarios/clientes de Canal de Isabel ll",
|
75 |
description='Autor: <a href=\"https://huggingface.co/Antonio49\">Antonio Fernández</a> de <a href=\"https://saturdays.ai/\">SaturdaysAI</a>. Formación: <a href=\"https://cursos.saturdays.ai/courses/\">Cursos Online AI</a> Aplicación desarrollada con fines docentes',
|
76 |
retry_btn="Repetir",
|
|
|
35 |
|
36 |
# Formatear el prompt y obtener la respuesta del modelo de manera continua
|
37 |
formatted_prompt = format_prompt(prompt, history, system_prompt)
|
38 |
+
stream = client.text_generation(prompt, history, system_prompt, **generate_kwargs, stream=True, details=True, return_full_text=False)
|
39 |
output = ""
|
40 |
|
41 |
# Iterar a través de las respuestas en el stream
|
|
|
45 |
return output
|
46 |
|
47 |
# Configurar inputs adicionales para la interfaz Gradio
|
48 |
+
additional_inputs = [
|
49 |
# Entrada de texto para el System Prompt (puedes omitir esto si no lo necesitas)
|
50 |
gr.Textbox(
|
51 |
label="System Prompt",
|
|
|
53 |
max_lines=30,
|
54 |
interactive=False,
|
55 |
)
|
56 |
+
]
|
57 |
|
58 |
# Crear una interfaz de chat Gradio con el modelo generativo
|
59 |
gr.ChatInterface(
|
|
|
70 |
),
|
71 |
textbox=gr.Textbox(placeholder="¿Qué parámetros definen la calidad del agua?", container=False, scale=7),
|
72 |
theme="soft",
|
73 |
+
additional_inputs=additional_inputs,
|
74 |
title="Mixtral 8B Fines didácticos Asistente de usuarios/clientes de Canal de Isabel ll",
|
75 |
description='Autor: <a href=\"https://huggingface.co/Antonio49\">Antonio Fernández</a> de <a href=\"https://saturdays.ai/\">SaturdaysAI</a>. Formación: <a href=\"https://cursos.saturdays.ai/courses/\">Cursos Online AI</a> Aplicación desarrollada con fines docentes',
|
76 |
retry_btn="Repetir",
|