Daoneeee commited on
Commit
22f79d5
·
1 Parent(s): 2712123

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +21 -39
app.py CHANGED
@@ -11,60 +11,44 @@ from langchain.chains import ConversationalRetrievalChain
11
  from htmlTemplates import css, bot_template, user_template
12
  from langchain.llms import HuggingFaceHub, LlamaCpp, CTransformers # For loading transformer models.
13
  from langchain.document_loaders import PyPDFLoader, TextLoader, JSONLoader, CSVLoader
14
- import tempfile # 임시 파일을 생성하기 위한 라이브러리입니다.
15
  import os
16
 
17
 
18
  # PDF 문서로부터 텍스트를 추출하는 함수입니다.
19
  def get_pdf_text(pdf_docs):
20
- temp_dir = tempfile.TemporaryDirectory() # 임시 디렉토리를 생성합니다.
21
- temp_filepath = os.path.join(temp_dir.name, pdf_docs.name) # 임시 파일 경로를 생성합니다.
22
  with open(temp_filepath, "wb") as f: # 임시 파일을 바이너리 쓰기 모드로 엽니다.
23
- f.write(pdf_docs.getvalue()) # PDF 문서의 내용을 임시 파일에 씁니다.
24
- pdf_loader = PyPDFLoader(temp_filepath) # PyPDFLoader를 사용해 PDF를 로드합니다.
25
- pdf_doc = pdf_loader.load() # 텍스트를 추출합니다.
26
- return pdf_doc # 추출한 텍스트를 반환합니다.
27
-
28
 
29
  # 과제
30
  # 아래 텍스트 추출 함수를 작성
31
 
32
  def get_text_file(docs):
33
- text_content = docs.getvalue().decode("utf-8")
34
- return [text_content]
35
 
36
  def get_csv_file(docs):
37
- csv_content = docs.getvalue().decode("utf-8")
38
- csv_data = pd.read_csv(pd.compat.StringIO(csv_content))
39
- text_list = []
40
- for column in csv_data.columns:
41
- text_list.extend(csv_data[column].astype(str).tolist())
42
- return text_list
43
 
44
  def get_json_file(docs):
45
- json_content = docs.getvalue().decode("utf-8")
46
- json_data = json.loads(json_content)
47
- text_list = []
48
- for key, value in json_data.items():
49
- if isinstance(value, str):
50
- text_list.append(value)
51
- elif isinstance(value, list):
52
- text_list.extend(value)
53
- elif isinstance(value, dict):
54
- text_list.extend(value.values())
55
- return text_list
56
-
57
 
 
58
  # 문서들을 처리하여 텍스트 청크로 나누는 함수입니다.
59
  def get_text_chunks(documents):
60
  text_splitter = RecursiveCharacterTextSplitter(
61
- chunk_size=1000, # 청크의 크기를 지정합니다.
62
- chunk_overlap=200, # 청크 사이의 중복을 지정합니다.
63
- length_function=len # 텍스트의 길이를 측정하는 함수를 지정합니다.
64
  )
65
 
66
- documents = text_splitter.split_documents(documents) # 문서들을 청크로 나눕니다
67
- return documents # 나눈 청크를 반환합니다.
68
 
69
 
70
  # 텍스트 청크들로부터 벡터 스토어를 생성하는 함수입니다.
@@ -72,15 +56,15 @@ def get_vectorstore(text_chunks):
72
  # OpenAI 임베딩 모델을 로드합니다. (Embedding models - Ada v2)
73
 
74
  embeddings = OpenAIEmbeddings()
75
- vectorstore = FAISS.from_documents(text_chunks, embeddings) # FAISS 벡터 스토어를 생성합니다.
76
 
77
- return vectorstore # 생성된 벡터 스토어를 반환합니다.
78
 
79
 
80
  def get_conversation_chain(vectorstore):
81
  gpt_model_name = 'gpt-3.5-turbo'
82
- llm = ChatOpenAI(model_name=gpt_model_name) # gpt-3.5 모델 로드
83
-
84
  # 대화 기록을 저장하기 위한 메모리를 생성합니다.
85
  memory = ConversationBufferMemory(
86
  memory_key='chat_history', return_messages=True)
@@ -92,7 +76,6 @@ def get_conversation_chain(vectorstore):
92
  )
93
  return conversation_chain
94
 
95
-
96
  # 사용자 입력을 처리하는 함수입니다.
97
  def handle_userinput(user_question):
98
  # 대화 체인을 사용하여 사용자 질문에 대한 응답을 생성합니다.
@@ -166,4 +149,3 @@ def main():
166
 
167
  if __name__ == '__main__':
168
  main()
169
-
 
11
  from htmlTemplates import css, bot_template, user_template
12
  from langchain.llms import HuggingFaceHub, LlamaCpp, CTransformers # For loading transformer models.
13
  from langchain.document_loaders import PyPDFLoader, TextLoader, JSONLoader, CSVLoader
14
+ import tempfile # 임시 파일을 생성하기 위한 라이브러리입니다.
15
  import os
16
 
17
 
18
  # PDF 문서로부터 텍스트를 추출하는 함수입니다.
19
  def get_pdf_text(pdf_docs):
20
+ temp_dir = tempfile.TemporaryDirectory() # 임시 디렉토리를 생성합니다.
21
+ temp_filepath = os.path.join(temp_dir.name, pdf_docs.name) # 임시 파일 경로를 생성합니다.
22
  with open(temp_filepath, "wb") as f: # 임시 파일을 바이너리 쓰기 모드로 엽니다.
23
+ f.write(pdf_docs.getvalue()) # PDF 문서의 내용을 임시 파일에 씁니다.
24
+ pdf_loader = PyPDFLoader(temp_filepath) # PyPDFLoader를 사용해 PDF를 로드합니다.
25
+ pdf_doc = pdf_loader.load() # 텍스트를 추출합니다.
26
+ return pdf_doc # 추출한 텍스트를 반환합니다.
 
27
 
28
  # 과제
29
  # 아래 텍스트 추출 함수를 작성
30
 
31
  def get_text_file(docs):
32
+ pass
33
+
34
 
35
  def get_csv_file(docs):
36
+ pass
 
 
 
 
 
37
 
38
  def get_json_file(docs):
39
+ pass
 
 
 
 
 
 
 
 
 
 
 
40
 
41
+
42
  # 문서들을 처리하여 텍스트 청크로 나누는 함수입니다.
43
  def get_text_chunks(documents):
44
  text_splitter = RecursiveCharacterTextSplitter(
45
+ chunk_size=1000, # 청크의 크기를 지정합니다.
46
+ chunk_overlap=200, # 청크 사이의 중복을 지정합니다.
47
+ length_function=len # 텍스트의 길이를 측정하는 함수를 지정합니다.
48
  )
49
 
50
+ documents = text_splitter.split_documents(documents) # 문서들을 청크로 나눕니다
51
+ return documents # 나눈 청크를 반환합니다.
52
 
53
 
54
  # 텍스트 청크들로부터 벡터 스토어를 생성하는 함수입니다.
 
56
  # OpenAI 임베딩 모델을 로드합니다. (Embedding models - Ada v2)
57
 
58
  embeddings = OpenAIEmbeddings()
59
+ vectorstore = FAISS.from_documents(text_chunks, embeddings) # FAISS 벡터 스토어를 생성합니다.
60
 
61
+ return vectorstore # 생성된 벡터 스토어를 반환합니다.
62
 
63
 
64
  def get_conversation_chain(vectorstore):
65
  gpt_model_name = 'gpt-3.5-turbo'
66
+ llm = ChatOpenAI(model_name = gpt_model_name) #gpt-3.5 모델 로드
67
+
68
  # 대화 기록을 저장하기 위한 메모리를 생성합니다.
69
  memory = ConversationBufferMemory(
70
  memory_key='chat_history', return_messages=True)
 
76
  )
77
  return conversation_chain
78
 
 
79
  # 사용자 입력을 처리하는 함수입니다.
80
  def handle_userinput(user_question):
81
  # 대화 체인을 사용하여 사용자 질문에 대한 응답을 생성합니다.
 
149
 
150
  if __name__ == '__main__':
151
  main()