Update app.py

app.py

@@ -8,7 +8,7 @@ logging.basicConfig(level=logging.INFO)
 logger = logging.getLogger(__name__)
 
 # Загружаем модель
-model_name = "ai-forever/rugpt-3.5B-103billion-tokens"
+model_name = "ai-forever/ruGPT-3.5-13B"
 try:
     logger.info(f"Попытка загрузки модели {model_name}...")
     generator = pipeline(
@@ -25,18 +25,19 @@ except Exception as e:
     logger.error(f"Ошибка загрузки модели: {e}")
     exit(1)
 
-def respond(message, max_tokens=150, temperature=0.7, top_p=0.9):
+def respond(message, max_tokens=150, temperature=0.5, top_p=0.8):
+    prompt = f"Вы медицинский чат-бот. Пользователь говорит: '{message}'. Дайте краткий ответ с диагнозом и лечением на русском языке."
     try:
         logger.info(f"Генерация ответа для: {message}")
         outputs = generator(
-            message,
+            prompt,
             max_length=max_tokens,
             temperature=temperature,
             top_p=top_p,
             do_sample=True,
             num_return_sequences=1
         )
-        response = outputs[0]["generated_text"].strip()
+        response = outputs[0]["generated_text"].replace(prompt, "").strip()
         logger.info(f"Ответ сгенерирован: {response}")
     except Exception as e:
         logger.error(f"Ошибка генерации ответа: {e}")
@@ -48,11 +49,11 @@ demo = gr.Interface(
     inputs=[
         gr.Textbox(label="Ваше сообщение", placeholder="Опишите симптомы (например, 'Болит горло')..."),
         gr.Slider(minimum=50, maximum=300, value=150, step=10, label="Макс. токенов"),
-        gr.Slider(minimum=0.1, maximum=1.0, value=0.7, label="Температура"),
-        gr.Slider(minimum=0.1, maximum=1.0, value=0.9, label="Top-p")
+        gr.Slider(minimum=0.1, maximum=1.0, value=0.5, label="Температура"),
+        gr.Slider(minimum=0.1, maximum=1.0, value=0.8, label="Top-p")
     ],
     outputs="text",
-    title="Медицинский чат-бот на базе RuGPT-3.5B",
+    title="Медицинский чат-бот на базе RuGPT-3.5-13B",
     theme=gr.themes.Soft()
 )