Update app.py
Browse files
app.py
CHANGED
@@ -5,6 +5,10 @@ import gradio as gr
|
|
5 |
# Crear un cliente de inferencia para el modelo preentrenado Mixtral-8x7B-Instruct-v0.1
|
6 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
7 |
|
|
|
|
|
|
|
|
|
8 |
# Función para formatear el prompt con historial
|
9 |
def format_prompt(message, history, system_prompt):
|
10 |
prompt = "<s>"
|
@@ -44,6 +48,19 @@ def generate(
|
|
44 |
yield output
|
45 |
return output
|
46 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
47 |
# Configurar inputs adicionales para la interfaz Gradio
|
48 |
additional_inputs = [
|
49 |
# Entrada de texto para el System Prompt (puedes omitir esto si no lo necesitas)
|
|
|
5 |
# Crear un cliente de inferencia para el modelo preentrenado Mixtral-8x7B-Instruct-v0.1
|
6 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
7 |
|
8 |
+
# Variable para controlar la conversación
|
9 |
+
conversation_ongoing = True
|
10 |
+
|
11 |
+
|
12 |
# Función para formatear el prompt con historial
|
13 |
def format_prompt(message, history, system_prompt):
|
14 |
prompt = "<s>"
|
|
|
48 |
yield output
|
49 |
return output
|
50 |
|
51 |
+
# Función para la conversación inicial en un hilo separado
|
52 |
+
def initial_conversation():
|
53 |
+
global conversation_ongoing
|
54 |
+
user_input = gr.textbox("Por favor, preséntate:")
|
55 |
+
gr.button("Terminar conversación", onclick=lambda: end_conversation())
|
56 |
+
|
57 |
+
# Función para finalizar la conversación
|
58 |
+
def end_conversation():
|
59 |
+
global conversation_ongoing
|
60 |
+
conversation_ongoing = False
|
61 |
+
|
62 |
+
|
63 |
+
|
64 |
# Configurar inputs adicionales para la interfaz Gradio
|
65 |
additional_inputs = [
|
66 |
# Entrada de texto para el System Prompt (puedes omitir esto si no lo necesitas)
|