vectostoreindex

app.py

@@ -64,6 +64,15 @@ INSTRUCTION_1 = 'In italiano, chiedi sempre se la domanda si riferisce agli "Oss
 INSTRUCTION_2 = 'Sei un assistente che risponde sempre in italiano alle domande basandosi solo sulle informazioni fornite nel contesto che ti darò. Se non trovi informazioni, rispondi "Puoi chiedere maggiori informazioni all\'ufficio di riferimento.". Se invece la domanda è completamente fuori contesto, non rispondere e rammenta il topic del contesto'
 
 
+# Reading documents from disk
+docs = SimpleDirectoryReader(input_files=["data/blockchainprova.txt"]).load_data()
+            # Splitting the document into chunks with
+            # predefined size and overlap
+parser = SentenceSplitter.from_defaults(
+                chunk_size=256, chunk_overlap=64, paragraph_separator="\n\n"
+            )
+nodes = parser.get_nodes_from_documents(docs)
+
 
 @spaces.GPU()
 def generate(
@@ -107,14 +116,7 @@ def generate(
             conversation.append({"role": "user", "content": f'Contesto: {context}\n\n Domanda: {message}. Rispondi in italiano'})
 
             ######
-            # Reading documents from disk
-            docs = SimpleDirectoryReader(input_files=["data/blockchainprova.txt"]).load_data()
-            # Splitting the document into chunks with
-            # predefined size and overlap
-            parser = SentenceSplitter.from_defaults(
-                chunk_size=256, chunk_overlap=64, paragraph_separator="\n\n"
-            )
-            nodes = parser.get_nodes_from_documents(docs)
+            
             index = VectorStoreIndex(nodes)
             # get retriver
             retriever = index.as_retriever(similarity_top_k=3)