Update app.py

app.py

@@ -225,81 +225,105 @@ def synthesize_speech(text):
     except Exception as e:
         print("خطا در تبدیل متن به گفتار:", e)
         return None
+def get_model_response(messages):
+    response = client.chat.completions.create(
+        model="meta-llama/Llama-3.3-70B-Instruct-Turbo",
+        messages=messages,
+        max_tokens=1024,
+        temperature=0.7,
+        top_p=0.7,
+        top_k=50,
+        repetition_penalty=1,
+        stop=["<|eot_id|>", "<|eom_id|>"],
+        stream=False,
+    )
+    return response.choices[0].message["content"]
 
+    
 # تابع اصلی برای مدیریت مکالمه
-def agent_respond(message):
-    global job_description, job_description_confirmed
-
-    # به‌روزرسانی حافظه با پیام کاربر
-    memory.chat_memory.add_user_message(message)
-
-    # آماده‌سازی پیام‌ها برای LLM
-    messages = memory.chat_memory.messages.copy()
-
-    # اضافه کردن Prompt به عنوان پیام سیستم
-    system_prompt = prompt.format(chat_history=get_chat_history_string(memory.chat_memory))
-    messages.insert(0, SystemMessage(content=system_prompt))
-
-    # تولید پاسخ دستیار
-    response = llm(messages=messages)
-
-    # افزودن پاسخ دستیار به حافظه
-    memory.chat_memory.add_ai_message(response.content)
-
-    # بررسی اینکه آیا باید متن شغلی تولید شود
-    if not job_description_confirmed and "متن شغلی" in response.content.lower():
-        # تولید متن شغلی بر اساس مکالمه
-        jd_prompt = f"""
-        بر اساس مکالمه تا کنون، یک متن شغلی دقیق و حرفه‌ای برای موقعیت مورد نظر بنویسید. وظایف، مسئولیت‌ها، مهارت‌ها و هر جزئیات مرتبط دیگری که کارفرما ارائه داده است را شامل کنید.
-        مکالمه:
-        {get_chat_history_string(memory.chat_memory)}
-        """
-
-        # اضافه کردن Prompt به عنوان پیام سیستم
-        jd_messages = [
-            SystemMessage(content=jd_prompt)
-        ]
-
-        jd_response = llm(messages=jd_messages)
-        job_description = jd_response.content
-
-        # ارائه متن شغلی به کارفرما
-        confirmation_message = f"متن شغلی پیشنهادی به شرح زیر است:\n\n{job_description}\n\nلطفاً آن را بررسی کرده و بگویید آیا نیاز به تغییر دارد."
-        memory.chat_memory.add_ai_message(confirmation_message)
-        return confirmation_message
-
-    # بررسی بازخورد کارفرما درباره متن شغلی
-    if job_description and not job_description_confirmed:
-        if any(word in message.lower() for word in ["تغییر", "ویرایش", "به‌روزرسانی", "اصلاح"]):
-            # به‌روزرسانی متن شغلی بر اساس بازخورد کارفرما
-            update_prompt = f"""
-            کارفرما بازخورد زیر را درباره متن شغلی ارائه داده است:
-            "{message}"
-            لطفاً متن شغلی را بر این اساس به‌روزرسانی کنید.
-            متن شغلی اصلی:
-            {job_description}
-            """
-
-            # اضافه کردن Prompt به عنوان پیام سیستم
-            update_messages = [
-                SystemMessage(content=update_prompt)
-            ]
-
-            update_response = llm(messages=update_messages)
-            job_description = update_response.content
-
-            # ارائه متن شغلی به‌روزشده
-            updated_message = f"متن شغلی به‌روزرسانی‌شده به شرح زیر است:\n\n{job_description}\n\nآیا این مورد رضایت‌بخش است؟"
-            memory.chat_memory.add_ai_message(updated_message)
-            return updated_message
-        elif any(word in message.lower() for word in ["بله", "موافقم", "رضایت‌بخش است", "خوب است"]):
-            job_description_confirmed = True
-            final_message = "عالی! متن شغلی نهایی شد. از زمانی که اختصاص دادید متشکرم."
-            memory.chat_memory.add_ai_message(final_message)
-            return final_message
-
-    return response.content
+# def agent_respond(message):
+#     global job_description, job_description_confirmed
+
+#     # به‌روزرسانی حافظه با پیام کاربر
+#     memory.chat_memory.add_user_message(message)
+
+#     # آماده‌سازی پیام‌ها برای LLM
+#     messages = memory.chat_memory.messages.copy()
+
+#     # اضافه کردن Prompt به عنوان پیام سیستم
+#     system_prompt = prompt.format(chat_history=get_chat_history_string(memory.chat_memory))
+#     messages.insert(0, SystemMessage(content=system_prompt))
+
+#     # تولید پاسخ دستیار
+#     response = llm(messages=messages)
+
+#     # افزودن پاسخ دستیار به حافظه
+#     memory.chat_memory.add_ai_message(response.content)
+
+#     # بررسی اینکه آیا باید متن شغلی تولید شود
+#     if not job_description_confirmed and "متن شغلی" in response.content.lower():
+#         # تولید متن شغلی بر اساس مکالمه
+#         jd_prompt = f"""
+#         بر اساس مکالمه تا کنون، یک متن شغلی دقیق و حرفه‌ای برای موقعیت مورد نظر بنویسید. وظایف، مسئولیت‌ها، مهارت‌ها و هر جزئیات مرتبط دیگری که کارفرما ارائه داده است را شامل کنید.
+#         مکالمه:
+#         {get_chat_history_string(memory.chat_memory)}
+#         """
+
+#         # اضافه کردن Prompt به عنوان پیام سیستم
+#         jd_messages = [
+#             SystemMessage(content=jd_prompt)
+#     #     ]
+
+    #     jd_response = llm(messages=jd_messages)
+    #     job_description = jd_response.content
+
+    #     # ارائه متن شغلی به کارفرما
+    #     confirmation_message = f"متن شغلی پیشنهادی به شرح زیر است:\n\n{job_description}\n\nلطفاً آن را بررسی کرده و بگویید آیا نیاز به تغییر دارد."
+    #     memory.chat_memory.add_ai_message(confirmation_message)
+    #     return confirmation_message
+
+    # # بررسی بازخورد کارفرما درباره متن شغلی
+    # if job_description and not job_description_confirmed:
+    #     if any(word in message.lower() for word in ["تغییر", "ویرایش", "به‌روزرسانی", "اصلاح"]):
+    #         # به‌روزرسانی متن شغلی بر اساس بازخورد کارفرما
+    #         update_prompt = f"""
+    #         کارفرما بازخورد زیر را درباره متن شغلی ارائه داده است:
+    #         "{message}"
+    #         لطفاً متن شغلی را بر این اساس به‌روزرسانی کنید.
+    #         متن شغلی اصلی:
+    #         {job_description}
+    #         """
+
+    #         # اضافه کردن Prompt به عنوان پیام سیستم
+    #         update_messages = [
+    #             SystemMessage(content=update_prompt)
+    #         ]
+
+    #         update_response = llm(messages=update_messages)
+    #         job_description = update_response.content
+
+    #         # ارائه متن شغلی به‌روزشده
+    #         updated_message = f"متن شغلی به‌روزرسانی‌شده به شرح زیر است:\n\n{job_description}\n\nآیا این مورد رضایت‌بخش است؟"
+    #         memory.chat_memory.add_ai_message(updated_message)
+    #         return updated_message
+    #     elif any(word in message.lower() for word in ["بله", "موافقم", "رضایت‌بخش است", "خوب است"]):
+    #         job_description_confirmed = True
+    #         final_message = "عالی! متن شغلی نهایی شد. از زمانی که اختصاص دادید متشکرم."
+    #         memory.chat_memory.add_ai_message(final_message)
+    #         return final_message
+
+    # return response.content
+
+
+
+def agent_respond(message, chat_history):
+    messages = [{"role": "user", "content": message}]
+    bot_response = get_model_response(messages)
+    chat_history.append((message, bot_response))
+    audio_response = synthesize_speech(bot_response)
+    return chat_history, "", audio_response
 
+    
 import os
 import uuid
 from pydub import AudioSegment