Update app.py

app.py

@@ -4,8 +4,9 @@ from dotenv import load_dotenv
 from openai import OpenAI
 from prompts.initial_prompt import INITIAL_PROMPT
 from prompts.main_prompt import MAIN_PROMPT
+from fastapi import FastAPI
 
-# .env 파일에서 OPENAI_API_KEY 로드
+# Load OpenAI API Key from .env file
 if os.path.exists(".env"):
     load_dotenv(".env")
 
@@ -13,33 +14,37 @@ OPENAI_API_KEY = os.getenv("OPENAI_API_KEY")
 
 client = OpenAI(api_key=OPENAI_API_KEY)
 
+# ✅ Create FastAPI app
+app = FastAPI()
 
+# ✅ API Endpoints to Serve Prompts
+@app.get("/initial_prompt")
+def get_initial_prompt():
+    return {"prompt": INITIAL_PROMPT}
 
+@app.get("/main_prompt")
+def get_main_prompt():
+    return {"prompt": MAIN_PROMPT}
+
+# ✅ Chatbot function
 def gpt_call(history, user_message,
              model="gpt-4o-mini",
              max_tokens=512,
              temperature=0.7,
              top_p=0.95):
     """
-    OpenAI ChatCompletion API를 통해 답변을 생성하는 함수.
-    - history: [(user_text, assistant_text), ...]
-    - user_message: 사용자가 방금 입력한 메시지
+    OpenAI ChatCompletion API call
     """
-    # 1) 시스템 메시지(=MAIN_PROMPT)를 가장 앞에 추가
     messages = [{"role": "system", "content": MAIN_PROMPT}]
     
-    # 2) 기존 대화 기록(history)을 OpenAI 형식으로 변환
-    #    user_text -> 'user' / assistant_text -> 'assistant'
     for user_text, assistant_text in history:
         if user_text:
             messages.append({"role": "user", "content": user_text})
         if assistant_text:
             messages.append({"role": "assistant", "content": assistant_text})
 
-    # 3) 마지막에 이번 사용자의 입력을 추가
     messages.append({"role": "user", "content": user_message})
 
-    # 4) OpenAI API 호출
     completion = client.chat.completions.create(
         model=model,
         messages=messages,
@@ -49,61 +54,45 @@ def gpt_call(history, user_message,
     )
     return completion.choices[0].message.content
 
+# ✅ Gradio Chatbot UI
 def respond(user_message, history):
-    """
-    Gradio 상에서 submit할 때 호출되는 함수
-    - user_message: 사용자가 방금 친 메시지
-    - history: 기존 (user, assistant) 튜플 리스트
-    """
-    # 사용자가 빈 문자열을 보냈다면 아무 일도 하지 않음
     if not user_message:
         return "", history
 
-    # GPT 모델로부터 응답을 받음
     assistant_reply = gpt_call(history, user_message)
-
-    # history에 (user, assistant) 쌍 추가
     history.append((user_message, assistant_reply))
 
-    # Gradio에서는 (새로 비워질 입력창, 갱신된 history)를 반환
     return "", history
 
-##############################
-#  Gradio Blocks UI
-##############################
 with gr.Blocks() as demo:
     gr.Markdown("## Simple Chat Interface")
 
-    # Chatbot 초기 상태를 설정
-    # 첫 번째 메시지는 (user="", assistant=INITIAL_PROMPT) 형태로 넣어
-    # 화면상에서 'assistant'가 INITIAL_PROMPT를 말한 것처럼 보이게 함
     chatbot = gr.Chatbot(
-        value=[("", INITIAL_PROMPT)],  # (user, assistant)
+        value=[("", INITIAL_PROMPT)],  
         height=500
     )
 
-    # (user, assistant) 쌍을 저장할 히스토리 상태
-    # 여기서도 동일한 초기 상태를 넣어줌
     state_history = gr.State([("", INITIAL_PROMPT)])
 
-    # 사용자 입력
     user_input = gr.Textbox(
         placeholder="Type your message here...",
         label="Your Input"
     )
 
-    # 입력이 submit되면 respond() 호출 → 출력은 (새 입력창, 갱신된 chatbot)
     user_input.submit(
         respond,
         inputs=[user_input, state_history],
         outputs=[user_input, chatbot]
     ).then(
-        # respond 끝난 뒤, 최신 history를 state_history에 반영
         fn=lambda _, h: h,
         inputs=[user_input, chatbot],
         outputs=[state_history]
     )
 
-# 메인 실행
-if __name__ == "__main__":
+# ✅ Launch Gradio and FastAPI together
+import threading
+
+def run_gradio():
     demo.launch(server_name="0.0.0.0", server_port=7860, share=True)
+
+threading.Thread(target=run_gradio).start()