Update app.py

app.py

@@ -55,23 +55,33 @@ def respond(
         token = message.choices[0].delta.content
         if token is not None:
             response += token.strip("")  # 토큰 제거
-        yield response
 
     # Convert the response to speech
     wav_path = text_to_speech(response)
 
     return response, wav_path
 
-demo = gr.ChatInterface(
-    respond,
-
+demo = gr.Interface(
+    fn=respond,
+    inputs=[
+        gr.Textbox(lines=2, placeholder="메시지를 입력하세요..."),
+        gr.State(value=[]),
+        gr.Textbox(lines=2, placeholder="시스템 메시지를 입력하세요..."),
+        gr.Slider(minimum=1, maximum=128000, value=10000, step=1, label="Max new tokens"),
+        gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),
+        gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)"),
+    ],
+    outputs=[
+        gr.Textbox(label="응답"),
+        gr.Audio(label="음성 파일", type="file")
+    ],
     examples=[
         ["반드시 한글로 답변하라"],
         ["아이슬란드의 수도는 어디지?"],
         ["흥미로운 주제를 알려줘"],
         ["계속 이어서 답변하라"],
     ],
-    cache_examples=False,  # 캐싱 비활성화 설정
+    cache_examples=False  # 캐싱 비활성화 설정
 )
 
 if __name__ == "__main__":