Update app.py

app.py

@@ -1,80 +1,267 @@
 #region# import libs
 import streamlit as st
 import os
-from transformers import pipeline
-from transformers import AutoModelForCausalLM, AutoTokenizer
+from mistralai import Mistral
+ 
+MISTRAL_API_KEY = os.getenv("api_mistral")
+model = 'mistral-large-latest'
+mistral_client = Mistral(api_key=MISTRAL_API_KEY)
+MAX_TOKENS = 1500
+ 
+def generate_prompts(score:str, type: str, annee_min: str, annee_max:str ):
+    """
+    Genere les prefixes et suffixes des prompts pour Mistral en fonction du score de vulgarisation, du type d'espece, et les années des documents
+ 
+    Args:
+        score (str): 1 = vulgarisé, 2 = intermédiaire, 3 = technique
+        type (str): 'ponte' ou 'chair'
+        annee_min (str): annee min de publication
+        annee_max (str): annee max de publication
+    
+    """
+ 
+    if type == "Ponte":
+        type_description = "volailles pondeuses"
+    elif type == "Chair":
+        type_description = "volailles de chair"
+    else:
+        raise ValueError("Type must be either 'Ponte' or 'Chair'")
+ 
+    if score == "1":
+        prefix_prompt = f"""Tu es un assistant IA spécialisé en nutrition de la volaille. Ton utilisateur est un chercheur travaillant sur l'amélioration des régimes 
+        alimentaires pour optimiser la santé et la croissance des {type_description}. 
+        Réponds en fournissant des explications claires et simples. N'oublie pas de citer à la fin de ta réponse les références sur 
+        lesquelles tu t'es basé avec son année (entre {annee_min} et {annee_max})."""
+        suffix_prompt = """Réponds en français et donne une réponse directe et claire, donne les références de façon bibliographique."""
+    elif score == "2":
+        prefix_prompt = f"""Tu es un assistant IA spécialisé en nutrition de la volaille. Ton utilisateur est un chercheur travaillant sur l'amélioration des régimes 
+        alimentaires pour optimiser la santé et la croissance des {type_description}. 
+        Réponds en fournissant des explications détaillées et précises, adaptées à la complexité de la question posée. 
+        N'oublie pas de citer à la fin de ta réponse les références sur lesquelles tu t'es basé avec son année (entre {annee_min} et {annee_max}). Sois concis et clair."""
+        suffix_prompt = """Réponds en français et en suivant cette structure :
+        Donne une explication scientifique détaillée (mécanismes biologiques, données chiffrées).
+        Fini par les études ou références bibliographiques si disponibles."""
+    elif score == "3":
+        prefix_prompt = f"""Tu es un assistant IA spécialisé en nutrition de la volaille. Ton utilisateur est un chercheur travaillant sur l'amélioration des régimes 
+        alimentaires pour optimiser la santé et la croissance des {type_description}. 
+        Réponds en fournissant des explications détaillées et précises, adaptées à la complexité de la question posée.
+        N'oublie pas de citer à la fin de ta réponse les références sur lesquelles tu t'es basé avec son année (entre {annee_min} et {annee_max}).
+        Inclus des formules, des valeurs nutritionnelles précises et des références aux normes actuelles. Sois concis et clair."""
+        suffix_prompt = """Réponds en français et en suivant cette structure : Explication scientifique détaillée (mécanismes biologiques, données chiffrées). 
+        Études ou références bibliographiques si disponibles."""
+    else:
+        raise ValueError("Score must be 1, 2, or 3")
+ 
+    return prefix_prompt, suffix_prompt
+ 
+def send_prompt_to_mistral(type_reponse: str, user_prompt: str, temperature:int, n_comp:int, prefix_prompt: str, suffix_prompt:str, verbose=True):
+    """
+    Envoie un prompt à Mistral pour obtenir une réponse
+ 
+    Args:
+        type_reponse (str): Le rôle de l'utilisateur, peut être 'technicien' ou 'chercheur'.
+                    Si le rôle ne correspond pas à l'un de ces deux, une exception sera levée.
+        user_prompt (str): Le texte du prompt à envoyer à Mistral.
+        temperature (int): Lower values make the model more deterministic, focusing on likely responses for accuracy
+        verbose (bool): Print la reponse avant le return
+        prefixe (str): Prefixe du prompt
+        suffixe (str): Suffixe du prompt
+ 
+    Returns:
+        dict: La réponse du modèle Mistral à partir du prompt fourni.
+ 
+    Raises:
+        ValueError: Si le rôle spécifié n'est pas 'technicien' ou 'chercheur'.
+    """
+ 
+    # Création du message à envoyer à Mistral
+    messages = [{"role": type_reponse, "content": suffix_prompt}]
+    
+    # Envoi de la requête à Mistral et récupération de la réponse
+    chat_response = mistral_client.chat.complete(
+        model = model,
+        messages=[
+            {"role": "system", "content": prefix_prompt},
+            {"role": "user", "content": user_prompt + suffix_prompt},
+        ],
+ 
+        #response_format={
+        #    'type': 'json_object'
+        #},
+        temperature=temperature,
+        n=n_comp,
+        max_tokens=MAX_TOKENS,
+        stream=False
+        #stop='\n'
+    )
+ 
+    if verbose:
+        print(chat_response)
+ 
+    return chat_response
+ 
+def is_valid_mistral_response(response: dict) -> bool:
+    """
+    Vérifie si la réponse de l'API Mistral est valide.
+    
+    Critères de validité :
+    - La clé "choices" existe et contient au moins un élément.
+    - Le texte généré n'est pas vide et ne contient pas uniquement des tabulations ou espaces.
+    - La génération ne s'est pas arrêtée pour une raison autre que 'stop'.
+    - La réponse ne contient pas de texte générique inutile.
+    
+    :param response: Dictionnaire représentant la réponse de l'API Mistral
+    :return: True si la réponse est valide, False sinon
+    """
+    if not isinstance(response, dict):
+        return False
+    
+    choices = response.get("choices")
+    if not choices or not isinstance(choices, list):
+        return False
+    
+    first_choice = choices[0]
+    if not isinstance(first_choice, dict):
+        return False
+    
+    text = first_choice.get("message", {}).get("content", "").strip()
+    if not text or text in ["\t\t", "", "N/A"]:
+        return False
+    
+    finish_reason = first_choice.get("finish_reason", "")
+    if finish_reason in ["error", "tool_calls"]:
+        return False
+    
+    # Vérification du contenu inutile
+    invalid_responses = [
+        "Je suis une IA", "Désolé, je ne peux pas répondre", "Je ne sais pas"
+    ]
+    if any(invalid in text for invalid in invalid_responses):
+        return False
+    
+    return True
+ 
+def print_pretty_response(response: dict, verbose=True):
+ 
+    pretty = response.choices[0].message.content
+ 
+    if verbose:
+        print(pretty)
+    
+    return pretty
+ 
+def response_details(response, verbose=True):
+    """
+    Envoie les details techniques du prompt
+    """
+ 
+    details = {}
+    details["id"] = response.id
+    details["total_tokens"] = response.usage.total_tokens
+    details["prefix"] = response.choices[0].message.prefix
+    details["role"] = response.choices[0].message.role
+ 
+    if verbose:
+        print(details)
+ 
+    return details
+ 
+def prompt_pipeline(user_prompt: str, niveau_detail: str, type_reponse: str, souche: str, annee_publication_min: str, annee_publication_max: str):
+    """
+    Fonction visible de l'application pour appeler un prompt et obtenir sa reponse
+ 
+    Args: 
+        prompt (str): Prompt utilisateur
+        niveau_detail (str): Niveau de detail de la requete : 1, 2, 3. Plus haut = plus d'infos
+        type_reponse (str): 'Ponte', 'Chair'
+    """
+ 
+    prefix_prompt, suffix_prompt = generate_prompts(score=niveau_detail, type=type_reponse, annee_min=annee_publication_min, annee_max=annee_publication_max)
+ 
+    reponse_mistral = send_prompt_to_mistral(
+        type_reponse=type_reponse,
+        user_prompt=user_prompt,
+        temperature=0.10,
+        n_comp=1,
+        verbose=False,
+        prefix_prompt=prefix_prompt,
+        suffix_prompt=suffix_prompt
+    )
+ 
+    to_return = {}
+    to_return["reponse_propre"] = print_pretty_response(reponse_mistral, verbose=True)
+    to_return["details"] = response_details(reponse_mistral, verbose=False)
+ 
+    return to_return
+ 
 #endregion
-
+ 
 #region# Titre de l'application et mise en page
 st.set_page_config(page_title="Expert nutrition volaille", page_icon="🤖")
 st.title("Chatbot AI avec l'expert nutrition")
 st.sidebar.image("img/avril_logo_rvb.jpg")
 st.sidebar.header("")
 #endregion
-
+ 
 #region# Elements graphiques
-
+ 
 #Choix production
 choix_prod = st.sidebar.pills(
     "Sur quelle espèce voulez-vous avoir des renseignements ?",
-    ("Pondeuse", "Chair"),)
-
-#Niveau vulgarisation
-choix_vulgarisation = st.sidebar.pills(
-    "Quel niveau de vulgarisation souhaitez-vous ?   (1- Très vulgarisé  2-Intermédiaire  3-Technique)",
-    ("1", "2", "3"),)
-
-
+    ("Ponte", "Chair"),)
+ 
 #Années de publication
 choix_annee = st.sidebar.slider("Années de publication",
                                 min_value=2015,
                                 max_value=2025,
                                 value=(2020,2025))
-
-#endregion
-
-#region# Chargement du modèle
-mistral_token = os.getenv('api_mistral')
-
-@st.cache_data
-def load_model():
-    return pipeline("text-generation", model="gpt2")
-
-model = load_model()
+ 
+#Niveau vulgarisation
+choix_vulgarisation = st.sidebar.pills(
+    "Quel niveau de vulgarisation souhaitez-vous ?   (1- Très vulgarisé  2-Intermédiaire  3-Technique)",
+    ("1", "2", "3"),)
+ 
 #endregion
-
+ 
 #region# Interface utilisateur
-st.sidebar.header("")
 user_input = st.text_area("Entrez votre question:", placeholder="E.g., quelle est la meilleure alimentation pour les poules pondeuses ?")
-
+ 
 if st.button("Envoyer la question..."):
     if user_input and choix_prod and choix_vulgarisation and choix_annee :
         with st.spinner("Veuillez patienter quelques instants..."):
             # Génération de la réponse
-            response = model(user_input, max_length=100, num_return_sequences=1)
-            bot_response = response[0]['generated_text']
+            response0 = prompt_pipeline(
+    user_prompt = user_input,
+    niveau_detail=choix_vulgarisation,
+    type_reponse=choix_prod,
+    souche=None,
+    annee_publication_max=max(choix_annee),
+    annee_publication_min=min(choix_annee)
+    )
+            print(response0["reponse_propre"])
+            response = response0["reponse_propre"]
+            bot_response = response
             
             # st.markdown("**Bot :** \\t " + bot_response)
             # Afficher un titre
             st.subheader("Réponse :")
-
+ 
             # Ajouter du texte Markdown avec un cadre
             st.markdown(f"""
             <div style="border: 2px solid #453103; padding: 15px; border-radius: 10px;">
                 {bot_response}
             </div>
             """, unsafe_allow_html=True)
-
+ 
             # Afficher un titre
             st.subheader("Sources :")
-
+ 
             # Ajouter du texte Markdown avec un cadre
             st.markdown("""
             <div style="border: 2px solid #453103; padding: 15px; border-radius: 10px;">
-                Sources
             </div>
             """, unsafe_allow_html=True)
-
+ 
             st.markdown("""
             <div style="border: 2px solid #453103; padding: 15px; border-radius: 10px;">
                 Reviews
@@ -89,30 +276,30 @@ if st.button("Envoyer la question..."):
         if not choix_prod or not choix_vulgarisation or not choix_annee:
             st.warning("Veuillez compléter les paramètres dans le bandeau latéral de gauche!")
 #endregion
-
+ 
 # choix_prod, choix_vulgarisation, choix_annee
-
+ 
 #region# Markdown
 #  Styles CSS pour améliorer l'apparence
 st.markdown("""
     <style>
-
+ 
         /* Changer la couleur de fond de l'ensemble de l'application */
         body {
             background-color: #feffb3;  /* Couleur de fond bleu clair (par exemple) */
             color: #453103;  /* Couleur de la police en gris foncé */
         }
-
+ 
         /* Personnaliser la couleur des titres */
         h1, h2, h3, h4, h5, h6 {
             color: #4CAF50;  /* Changer la couleur des titres en vert */
         }
-
+ 
         /* Personnaliser la couleur des paragraphes */
         p {
             color: #555555;  /* Couleur du texte dans les paragraphes */
         }
-
+ 
         .st-bx {
             background-color: #f1f1f1;
             border-radius: 10px;
@@ -127,8 +314,5 @@ st.markdown("""
         }
     </style>
 """, unsafe_allow_html=True)
-
-
-
-
-#endregion
+ 
+#endregion