Update app.py

app.py

@@ -10,16 +10,14 @@ from accelerate import Accelerator
 # 환경 변수에서 Hugging Face API 키 로드
 hf_api_key = os.getenv('HF_API_KEY')
 
-# 모델 ID 설정
+# 모델 ID 및 토크나이저 설정
 model_id = "microsoft/phi-2"
-
-# 사용자 정의 코드 실행 허용과 함께 모델 및 토크나이저 로드
 tokenizer = AutoTokenizer.from_pretrained(model_id, token=hf_api_key, trust_remote_code=True)
 model = AutoModelForCausalLM.from_pretrained(
     model_id,
     token=hf_api_key,
-    trust_remote_code=True,  # 사용자 정의 코드 실행 허용
-    torch_dtype=torch.float32  # 기본 dtype 사용
+    trust_remote_code=True,
+    torch_dtype=torch.float32
 )
 
 # Accelerator 설정
@@ -32,11 +30,10 @@ dataset = load_dataset("not-lain/wikipedia", revision="embedded")
 data = dataset["train"]
 data = data.add_faiss_index("embeddings")
 
-# 검색, 프롬프트 포맷팅, 응답 생성 함수
 def search(query: str, k: int = 3):
     embedded_query = ST.encode(query)
     scores, retrieved_examples = data.get_nearest_examples("embeddings", embedded_query, k=k)
-    return scores, retrieved_documents
+    return scores, retrieved_examples
 
 def format_prompt(prompt, retrieved_documents, k):
     PROMPT = f"Question:{prompt}\nContext:"
@@ -55,16 +52,15 @@ def rag_chatbot_interface(prompt: str, k: int = 2):
     formatted_prompt = format_prompt(prompt, retrieved_documents, k)
     return generate(formatted_prompt)
 
-# 시스템 프롬프트
 SYS_PROMPT = "You are an assistant for answering questions. Provide a conversational answer."
 
-# Gradio 인터페이스
 iface = gr.Interface(
     fn=rag_chatbot_interface,
     inputs="text",
     outputs="text",
     title="Retrieval-Augmented Generation Chatbot",
-    description="This chatbot provides more accurate answers by searching relevant documents and generating responses."
+    description="This chatbot provides more accurate answers by searching relevant documents and generating responses.",
+    share=True  # 공개 링크 생성
 )
 
 iface.launch()