Spaces:
Sleeping
Sleeping
File size: 14,090 Bytes
ae04b8f |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 |
import streamlit as st
import os
import sys
import yaml
import datetime
import pytz
from typing import List, Dict, Any
# Ajout du répertoire courant au chemin Python pour importer les modules
sys.path.append(os.path.dirname(os.path.abspath(__file__)))
# Import des composants nécessaires pour l'agent
from smolagents import CodeAgent
from smolagents.models import OpenAIServerModel, HfApiModel
from tools.final_answer import FinalAnswerTool
from tools.visit_webpage import VisitWebpageTool
from tools.web_search import DuckDuckGoSearchTool
from tools.shell_tool import ShellCommandTool
from tools.create_file_tool import CreateFileTool
from tools.modify_file_tool import ModifyFileTool
# Configuration de la page Streamlit
st.set_page_config(
page_title="Agent Conversationnel SmoLAgents 🤖",
page_icon="🤖",
layout="wide",
)
def initialize_agent(model_type="openai_server", model_config=None):
"""Initialise l'agent avec les outils et le modèle choisi
Args:
model_type: Type de modèle à utiliser ('openai_server', 'hf_api', etc.)
model_config: Configuration spécifique au modèle
"""
# Configuration du modèle en fonction du type choisi
if model_type == "openai_server":
# Configuration par défaut pour OpenAIServerModel
if model_config is None:
model_config = {
"api_base": "http://192.168.1.141:1234/v1",
"model_id": "Qwen/Qwen2.5-Coder-14B-Instruct-GGUF",
"api_key": "sk-dummy-key"
}
model = OpenAIServerModel(
api_base=model_config["api_base"],
model_id=model_config["model_id"],
api_key=model_config["api_key"]
)
elif model_type == "hf_api":
# Configuration par défaut pour HfApiModel
if model_config is None:
model_config = {
"model_id": "http://192.168.1.141:1234/v1",
"max_new_tokens": 2096,
"temperature": 0.5
}
model = HfApiModel(
model_id=model_config["model_id"],
max_new_tokens=model_config["max_new_tokens"],
temperature=model_config["temperature"]
)
elif model_type == "hf_cloud":
# Configuration pour HfApiModel avec un endpoint cloud
if model_config is None:
model_config = {
"model_id": "https://pflgm2locj2t89co.us-east-1.aws.endpoints.huggingface.cloud",
"max_new_tokens": 2096,
"temperature": 0.5
}
model = HfApiModel(
model_id=model_config["model_id"],
max_new_tokens=model_config["max_new_tokens"],
temperature=model_config["temperature"]
)
else:
st.error(f"Type de modèle non supporté: {model_type}")
return None
# Chargement des templates de prompt depuis le fichier YAML
try:
with open("prompts.yaml", 'r') as stream:
prompt_templates = yaml.safe_load(stream)
except:
st.error("Impossible de charger prompts.yaml. Utilisation des prompts par défaut.")
prompt_templates = None
# Initialisation des outils
final_answer = FinalAnswerTool()
# Création de l'agent avec les mêmes outils que dans app.py
agent = CodeAgent(
model=model,
tools=[
final_answer,
DuckDuckGoSearchTool(),
VisitWebpageTool(),
ShellCommandTool(),
CreateFileTool(),
ModifyFileTool()
],
max_steps=6,
verbosity_level=1,
grammar=None,
planning_interval=None,
name=None,
description=None,
prompt_templates=prompt_templates
)
return agent
def format_step_message(step, is_final=False):
"""Formate les messages de l'agent pour l'affichage dans Streamlit"""
if hasattr(step, "model_output") and step.model_output:
# Nettoyer et formater la sortie du modèle pour l'affichage
content = step.model_output.strip()
if not is_final:
return content
else:
return f"**Réponse finale :** {content}"
if hasattr(step, "observations") and step.observations:
# Afficher les observations des outils
return f"**Observations :** {step.observations.strip()}"
if hasattr(step, "error") and step.error:
# Afficher les erreurs
return f"**Erreur :** {step.error}"
# Cas par défaut
return str(step)
def process_user_input(agent, user_input):
"""Traite l'entrée utilisateur avec l'agent et renvoie les résultats étape par étape"""
# Vérification de la connexion au serveur LLM
try:
# Exécution de l'agent et capture des étapes
with st.spinner("L'agent réfléchit..."):
# Placeholder pour la sortie de l'agent
response_container = st.container()
# Exécution de l'agent et capture des étapes
steps = []
final_step = None
with response_container:
step_container = st.empty()
step_text = ""
# Exécute l'agent et capture les étapes de manière incrémentale
for step in agent.run(user_input, stream=True):
steps.append(step)
# Mettre à jour l'affichage des étapes
step_number = f"Étape {step.step_number}" if hasattr(step, "step_number") and step.step_number is not None else ""
step_content = format_step_message(step)
# Ajouter au texte des étapes
if step_number:
step_text += f"### {step_number}\n\n"
step_text += f"{step_content}\n\n---\n\n"
# Mettre à jour l'affichage
step_container.markdown(step_text)
# Conserver la dernière étape pour la réponse finale
final_step = step
# Afficher la réponse finale
if final_step:
final_answer = format_step_message(final_step, is_final=True)
st.markdown(f"## Réponse Finale\n\n{final_answer}")
return final_step
except Exception as e:
st.error(f"Erreur lors de l'exécution de l'agent: {str(e)}")
return None
def main():
st.title("Agent Conversationnel SmoLAgents 🤖")
st.markdown("""
Bienvenue! Cet agent utilise SmoLAgents pour se connecter à un modèle de langage.
Posez vos questions ci-dessous.
""")
# Sidebar pour la configuration du modèle
with st.sidebar:
st.title("Configuration du Modèle")
# Sélectionner le type de modèle
model_type = st.selectbox(
"Type de modèle",
["openai_server", "hf_api", "hf_cloud"],
index=0,
help="Choisissez le type de modèle à utiliser avec l'agent"
)
# Configuration spécifique en fonction du type de modèle
model_config = {}
if model_type == "openai_server":
st.subheader("Configuration OpenAI Server")
model_config["api_base"] = st.text_input(
"URL du serveur",
value="http://192.168.1.141:1234/v1",
help="Adresse du serveur OpenAI compatible"
)
model_config["model_id"] = st.text_input(
"ID du modèle",
value="Qwen/Qwen2.5-Coder-14B-Instruct-GGUF",
help="Identifiant du modèle local"
)
model_config["api_key"] = st.text_input(
"Clé API",
value="sk-dummy-key",
type="password",
help="Clé API pour le serveur (dummy pour LMStudio)"
)
elif model_type == "hf_api":
st.subheader("Configuration Hugging Face API")
model_config["model_id"] = st.text_input(
"URL du modèle",
value="http://192.168.1.141:1234/v1",
help="URL du modèle ou endpoint"
)
model_config["max_new_tokens"] = st.slider(
"Tokens maximum",
min_value=512,
max_value=4096,
value=2096,
help="Nombre maximum de tokens à générer"
)
model_config["temperature"] = st.slider(
"Température",
min_value=0.1,
max_value=1.0,
value=0.5,
step=0.1,
help="Température pour la génération (plus élevée = plus créatif)"
)
elif model_type == "hf_cloud":
st.subheader("Configuration Hugging Face Cloud")
model_config["model_id"] = st.text_input(
"URL du endpoint cloud",
value="https://pflgm2locj2t89co.us-east-1.aws.endpoints.huggingface.cloud",
help="URL de l'endpoint cloud Hugging Face"
)
model_config["max_new_tokens"] = st.slider(
"Tokens maximum",
min_value=512,
max_value=4096,
value=2096,
help="Nombre maximum de tokens à générer"
)
model_config["temperature"] = st.slider(
"Température",
min_value=0.1,
max_value=1.0,
value=0.5,
step=0.1,
help="Température pour la génération (plus élevée = plus créatif)"
)
# Bouton pour réinitialiser l'agent avec la nouvelle configuration
if st.button("Appliquer la configuration"):
with st.spinner("Initialisation de l'agent avec le nouveau modèle..."):
st.session_state.agent = initialize_agent(model_type, model_config)
st.success("✅ Configuration appliquée avec succès!")
# Vérifier la connexion au serveur
if model_type == "openai_server":
llm_api_url = model_config["api_base"].split("/v1")[0]
try:
import requests
response = requests.get(f"{llm_api_url}/health", timeout=2)
if response.status_code == 200:
st.success("✅ Connexion au serveur LLM établie")
else:
st.warning("⚠️ Le serveur LLM est accessible mais renvoie un statut non-OK")
except Exception:
st.error("❌ Impossible de se connecter au serveur LLM. Vérifiez que le serveur est en cours d'exécution à l'adresse spécifiée.")
# Initialisation de l'agent si ce n'est pas déjà fait
if "agent" not in st.session_state:
with st.spinner("Initialisation de l'agent..."):
st.session_state.agent = initialize_agent(model_type, model_config)
# Initialisation de l'historique de conversation
if "messages" not in st.session_state:
st.session_state.messages = [
{"role": "assistant", "content": "Bonjour! Comment puis-je vous aider aujourd'hui?"}
]
# Affichage de l'historique des messages
for message in st.session_state.messages:
with st.chat_message(message["role"]):
st.markdown(message["content"])
# Zone de saisie utilisateur
if prompt := st.chat_input("Posez votre question..."):
# Ajouter la question de l'utilisateur à l'historique
st.session_state.messages.append({"role": "user", "content": prompt})
# Afficher la question de l'utilisateur
with st.chat_message("user"):
st.markdown(prompt)
# Traiter la demande avec l'agent
with st.chat_message("assistant"):
response = process_user_input(st.session_state.agent, prompt)
if response and hasattr(response, "model_output"):
# Ajouter la réponse à l'historique
st.session_state.messages.append({"role": "assistant", "content": response.model_output})
# Bouton pour effacer l'historique
if st.sidebar.button("Nouvelle conversation"):
st.session_state.messages = [
{"role": "assistant", "content": "Bonjour! Comment puis-je vous aider aujourd'hui?"}
]
st.rerun()
# Afficher des informations supplémentaires dans la barre latérale
with st.sidebar:
st.title("À propos de cet agent")
st.markdown("""
Cet agent utilise SmoLAgents pour se connecter à un modèle de langage hébergé localement.
### Outils disponibles
- Recherche web (DuckDuckGo)
- Visite de pages web
- Exécution de commandes shell
- Création et modification de fichiers
### Configuration
Utilisez les options ci-dessus pour configurer le modèle de langage.
### Problèmes courants
- Si l'agent ne répond pas, vérifiez que le serveur LLM est en cours d'exécution et accessible.
- Assurez-vous que toutes les dépendances sont installées via `pip install -r requirements.txt`.
""")
# Afficher l'heure actuelle dans différents fuseaux horaires
st.subheader("Heure actuelle")
selected_timezone = st.selectbox(
"Choisissez un fuseau horaire",
["Europe/Paris", "America/New_York", "Asia/Tokyo", "Australia/Sydney"]
)
tz = pytz.timezone(selected_timezone)
local_time = datetime.datetime.now(tz).strftime("%Y-%m-%d %H:%M:%S")
st.write(f"L'heure actuelle à {selected_timezone} est: {local_time}")
if __name__ == "__main__":
main() |