Update app.py

app.py

@@ -162,21 +162,26 @@ def preprocess_text_with_llm(input_text: str) -> str:
 - 텍스트에 쉼표가 있으면 큰따옴표로 감싸기
 - 큰따옴표는 백슬래시로 이스케이프 처리
 - 각 행은 새로운 줄로 구분
-- 모든 필드는 쉼표로 구분
-- <EOS_TOKEN>이나 불필요한 텍스트는 제거
-"""
+- 모든 필드는 쉼표로 구분"""
+
+    full_prompt = f"{system_prompt}\n\n{input_text}\n\n출력:"
 
     try:
-        response = hf_client.text_generation(
-            prompt=f"{system_prompt}\n\n{input_text}\n\n출력:",
+        response = ""
+        stream = hf_client.text_generation(
+            prompt=full_prompt,
             max_new_tokens=4000,
             temperature=0.3,
             top_p=0.9,
-            stream=False
+            stream=True,
         )
         
-        # 응답에서 <EOS_TOKEN> 이전까지만 추출
-        processed_text = response.split("<EOS_TOKEN>")[0].strip()
+        for msg in stream:
+            if msg:
+                response += msg
+        
+        # 응답 정제
+        processed_text = response.strip()
         
         # CSV 형식 검증
         try:
@@ -188,7 +193,7 @@ def preprocess_text_with_llm(input_text: str) -> str:
             return "LLM이 올바른 CSV 형식을 생성하지 못했습니다. 다시 시도해주세요."
             
     except Exception as e:
-        error_message = f"전처리 중 오류가 발생했습니다: {str(e)}\n{traceback.format_exc()}"
+        error_message = f"전처리 중 오류가 발생했습니다: {str(e)}"
         print(error_message)
         return error_message