Update app.py

app.py

@@ -1,14 +1,14 @@
 import gradio as gr
-import fitz  # PyMuPDF
 from transformers import RagTokenizer, RagRetriever, RagSequenceForGeneration
+import fitz  # PyMuPDF
 
-# Initialisiere das deutsche Modell und den Tokenizer für RAG
-model_name = "deepset/gbert-base"  # Beispiel für ein deutsches Modell
+# Lade das RAG-Modell, Tokenizer und Retriever
+model_name = "facebook/rag-token-nq"  # Funktionierendes RAG-Modell mit Encoder und Generator
 tokenizer = RagTokenizer.from_pretrained(model_name)
 model = RagSequenceForGeneration.from_pretrained(model_name)
 retriever = RagRetriever.from_pretrained(model_name, index_name="exact", use_dummy_dataset=True)
 
-# Funktion zur Textextraktion aus PDF (ohne OCR)
+# Funktion zur Textextraktion aus PDF
 def extract_text_from_pdf(file):
     # Öffne die PDF-Datei mit PyMuPDF
     doc = fitz.open(file.name)
@@ -21,16 +21,18 @@ def extract_text_from_pdf(file):
     
     return text
 
-# Funktion zur Generierung einer Antwort basierend auf dem hochgeladenen Dokument
+# Funktion zur Beantwortung der Frage durch das Modell
 def get_rag_answer(input_message, uploaded_file):
     # Extrahiere den Text aus dem hochgeladenen PDF-Dokument
     document_text = extract_text_from_pdf(uploaded_file)
 
-    # Simuliere den Retrieval-Mechanismus, indem wir den extrahierten Text verwenden
+    # Hier verwenden wir den extrahierten Text für das Abrufen von Informationen
     inputs = tokenizer(input_message, return_tensors="pt")
+    
+    # Abrufen von relevanten Dokumenten mit dem RagRetriever
     retrieved_docs = retriever.retrieve(input_ids=inputs["input_ids"])
 
-    # Kombiniere die extrahierten Dokumente und frage das Modell zur Generierung einer Antwort
+    # Kombiniere die abgerufenen Dokumente und frage das Modell zur Generierung einer Antwort
     input_ids = tokenizer(input_message, return_tensors="pt").input_ids
     generated_ids = model.generate(input_ids=input_ids, 
                                    decoder_start_token_id=model.config.pad_token_id,