Update app.py

app.py

@@ -21,7 +21,6 @@ system_instruction = """
 # 누적 토큰 사용량을 추적하는 전역 변수
 total_tokens_used = 0
 
-
 def fetch_ticker_info(ticker):
     stock = yf.Ticker(ticker)
     try:
@@ -43,7 +42,7 @@ def fetch_ticker_info(ticker):
         return "\n".join([f"{key}: {value}" for key, value in result.items() if value is not None])
     except ValueError:
         return "유효하지 않은 티커입니다. 다시 입력해주세요."
-        
+
 def format_prompt(message, history):
     prompt = "<s>[SYSTEM] {} [/SYSTEM]".format(system_instruction)
     for user_prompt, bot_response in history:
@@ -56,10 +55,8 @@ def generate(prompt, history=[], temperature=0.1, max_new_tokens=10000, top_p=0.
     input_tokens = len(tokenizer.encode(prompt))
     total_tokens_used += input_tokens
     available_tokens = 32768 - total_tokens_used
-
     if available_tokens <= 0:
-        yield f"Error: 입력이 최대 허용 토큰 수를 초과합니다. Total tokens used: {total_tokens_used}"
-        return
+        return f"Error: 입력이 최대 허용 토큰 수를 초과합니다. Total tokens used: {total_tokens_used}"
 
     formatted_prompt = format_prompt(prompt, history)
     output_accumulated = ""
@@ -69,44 +66,53 @@ def generate(prompt, history=[], temperature=0.1, max_new_tokens=10000, top_p=0.
         for response in stream:
             output_part = response['generated_text'] if 'generated_text' in response else str(response)
             output_accumulated += output_part
-            yield output_accumulated + f"\n\n---\nTotal tokens used: {total_tokens_used}"
+        return output_accumulated + f"\n\n---\nTotal tokens used: {total_tokens_used}"
     except Exception as e:
-        yield f"Error: {str(e)}\nTotal tokens used: {total_tokens_used}"
+        return f"Error: {str(e)}\nTotal tokens used: {total_tokens_used}"
 
+def postprocess(history):
+    user_prompt = history[-1][0]
+    bot_response = history[-1][1]
+    
+    # 티커 정보 출력
+    if "티커" in bot_response:
+        ticker = bot_response.split("티커")[1].strip()
+        ticker_info = fetch_ticker_info(ticker)
+        bot_response += f"\n\n티커 정보:\n{ticker_info}"
+    
+    return [(user_prompt, bot_response)]
 
-def setup_interface():
-    with gr.Blocks() as demo:
-        gr.Markdown("### 글로벌 자산(주식,지수,상품,가상자산,외환 등) 분석 LLM: BloombAI")
-        
-        with gr.Row():
-            ticker_input = gr.Textbox(label="티커 입력", placeholder="예: AAPL")
-            submit_button = gr.Button("조회")
-        
-        chatbot = gr.Chatbot(
-            avatar_images=["./user.png", "./botm.png"],
-            bubble_full_width=False,
-            show_label=False,
-            show_copy_button=True,
-            likeable=True
-        )
-        
-        # 채팅봇 초기 메시지 설정
-        chatbot.messages = [("bot", "환영합니다! 어떤 주식 정보가 궁금하신가요?")]
-        
-        # 버튼 클릭 이벤트를 통해 티커 정보를 채팅 창에 직접 출력
-        def query_and_show(ticker):
-            info = fetch_ticker_info(ticker)
-            return [("bot", f"티커 '{ticker}'의 정보 조회 결과:\n\n{info}")]
-        
-        submit_button.click(
-            fn=query_and_show,
-            inputs=ticker_input,
-            outputs=chatbot
-        )
-        
-        gr.Markdown("### 채팅")
+mychatbot = gr.Chatbot(
+    avatar_images=["./user.png", "./botm.png"],
+    bubble_full_width=False,
+    show_label=False,
+    show_copy_button=True,
+    likeable=True
+)
+
+examples = [
+    ["반드시 한글로 답변할것.", []],  # history 값을 빈 리스트로 제공    
+    ["분석 결과 보고서 다시 출력할것", []],
+    ["추천 종목 알려줘", []],
+    ["그 종목 투자 전망 예측해", []]
+]
+
+css = """
+h1 {
+    font-size: 14px; /* 제목 글꼴 크기를 작게 설정 */
+}
+footer {visibility: hidden;}
+"""
 
-    return demo
+demo = gr.ChatInterface( 
+    fn=generate,
+    chatbot=mychatbot,
+    title="글로벌 자산(주식,지수,상품,가상자산,외환 등) 분석 LLM: BloombAI",
+    retry_btn=None,
+    undo_btn=None,
+    css=css,
+    examples=examples,
+    postprocess=postprocess
+)
 
-app = setup_interface()
-app.launch()
+demo.queue().launch(show_api=False)