Update app.py

app.py

@@ -1,27 +1,30 @@
+# Importar las bibliotecas necesarias
 from huggingface_hub import InferenceClient
 import gradio as gr
 
-client = InferenceClient(
-    "mistralai/Mixtral-8x7B-Instruct-v0.1"
-)
-
+# Crear un cliente de inferencia para el modelo preentrenado Mixtral-8x7B-Instruct-v0.1
+client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
 
+# Función para formatear el prompt con historial
 def format_prompt(message, history):
-  prompt = "<s>"
-  for user_prompt, bot_response in history:
-    prompt += f"[INST] {user_prompt} [/INST]"
-    prompt += f" {bot_response}</s> "
-  prompt += f"[INST] {message} [/INST]"
-  return prompt
+    prompt = "<s>"
+    for user_prompt, bot_response in history:
+        prompt += f"[INST] {user_prompt} [/INST]"
+        prompt += f" {bot_response}</s> "
+    prompt += f"[INST] {message} [/INST]"
+    return prompt
 
+# Función para generar respuestas dada una serie de parámetros
 def generate(
     prompt, history, system_prompt, temperature=0.9, max_new_tokens=256, top_p=0.95, repetition_penalty=1.0,
 ):
+    # Ajustar valores de temperatura y top_p para asegurar que estén en el rango adecuado
     temperature = float(temperature)
     if temperature < 1e-2:
         temperature = 1e-2
     top_p = float(top_p)
 
+    # Configurar los parámetros para la generación de texto
     generate_kwargs = dict(
         temperature=temperature,
         max_new_tokens=max_new_tokens,
@@ -31,22 +34,26 @@ def generate(
         seed=42,
     )
 
+    # Formatear el prompt y obtener la respuesta del modelo de manera continua
     formatted_prompt = format_prompt(f"{system_prompt}, {prompt}", history)
     stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=False)
     output = ""
 
+    # Iterar a través de las respuestas en el stream
     for response in stream:
         output += response.token.text
         yield output
     return output
 
-
-additional_inputs=[
+# Configurar inputs adicionales para la interfaz Gradio
+additional_inputs = [
+    # Entrada de texto para el System Prompt
     gr.Textbox(
         label="System Prompt",
         max_lines=1,
         interactive=True,
     ),
+    # Control deslizante para la temperatura
     gr.Slider(
         label="Temperature",
         value=0.9,
@@ -54,8 +61,9 @@ additional_inputs=[
         maximum=1.0,
         step=0.05,
         interactive=True,
-        info="Higher values produce more diverse outputs",
+        info="Valores más altos producen resultados más diversos",
     ),
+    # Control deslizante para el número máximo de nuevos tokens
     gr.Slider(
         label="Max new tokens",
         value=256,
@@ -63,8 +71,9 @@ additional_inputs=[
         maximum=1048,
         step=64,
         interactive=True,
-        info="The maximum numbers of new tokens",
+        info="El máximo número de nuevos tokens",
     ),
+    # Control deslizante para top-p (nucleus sampling)
     gr.Slider(
         label="Top-p (nucleus sampling)",
         value=0.90,
@@ -72,8 +81,9 @@ additional_inputs=[
         maximum=1,
         step=0.05,
         interactive=True,
-        info="Higher values sample more low-probability tokens",
+        info="Valores más altos muestrean más tokens de baja probabilidad",
     ),
+    # Control deslizante para la penalización de repetición
     gr.Slider(
         label="Repetition penalty",
         value=1.2,
@@ -81,23 +91,27 @@ additional_inputs=[
         maximum=2.0,
         step=0.05,
         interactive=True,
-        info="Penalize repeated tokens",
+        info="Penaliza los tokens repetidos",
     )
 ]
 
-examples=[["Estoy planeando unas vacaciones en Japón. ¿Puedes sugerir un itinerario de una semana que incluya lugares de visita obligada y cocinas locales para probar?", None, None, None, None, None, ],
-          ["¿Puedes escribir una historia corta sobre un detective que viaja en el tiempo y resuelve misterios históricos?", None, None, None, None, None,],
-          ["Estoy tratando de aprender francés. ¿Puedes proporcionar algunas frases comunes que serían útiles para un principiante, junto con sus pronunciaciones?", None, None, None, None, None,],
-          ["Tengo pollo, arroz y pimientos morrones en mi cocina. ¿Puedes sugerir una receta fácil que pueda hacer con estos ingredientes?", None, None, None, None, None,],
-          ["¿Puede explicar cómo funciona el algoritmo QuickSort y proporcionar una implementación de Python?", None, None, None, None, None,],
-          ["¿Cuáles son algunas de las características únicas de Rust que lo hacen destacar en comparación con otros lenguajes de programación de sistemas como C++?", None, None, None, None, None,],
-         ]
+# Ejemplos predefinidos para la interfaz Gradio
+examples = [
+    ["Cuéntame una historia de ciencia ficción que involucre viajes en el tiempo y descubrimientos científicos asombrosos.", None, None, None, None, None, ],
+    ["Necesito ayuda para redactar un correo electrónico profesional. ¿Puedes sugerirme cómo empezar y qué puntos clave incluir?", None, None, None, None, None,],
+    ["Estoy organizando una fiesta sorpresa. ¿Puedes ayudarme a redactar una invitación creativa y emocionante?", None, None, None, None, None,],
+    ["Quiero aprender a tocar la guitarra. ¿Puedes proporcionar algunos consejos prácticos para principiantes y sugerencias de canciones fáciles?", None, None, None, None, None,],
+    ["¿Cuál es tu opinión sobre el impacto de la inteligencia artificial en la sociedad y cómo deberíamos abordar sus desafíos éticos?", None, None, None, None, None,],
+    ["Estoy planeando un viaje gastronómico. ¿Puedes sugerirme algunos destinos culinarios imperdibles y platos locales para probar?", None, None, None, None, None,],
+]
 
+# Crear una interfaz de chat Gradio con el modelo generativo
 gr.ChatInterface(
     fn=generate,
     chatbot=gr.Chatbot(show_label=False, show_share_button=False, show_copy_button=True, likeable=True, layout="panel"),
     additional_inputs=additional_inputs,
-    title="Mixtral 46.7B Fines didácticos ",
+    title="Mixtral 8x7B Fines didácticos",
+    description='Autor: <a href=\"https://huggingface.co/Antonio49\">Antonio Fernández</a> de <a href=\"https://saturdays.ai/\">SaturdaysAI</a>. Formación: <a href=\"https://cursos.saturdays.ai/courses/\">Cursos Online AI</a> Aplicación desarrollada con fines docentes',
     examples=examples,
     concurrency_limit=20,
 ).launch(show_api=False)