Update app.py

app.py

@@ -1,32 +1,26 @@
+import gradio as gr
 from transformers import AutoModelForCausalLM, AutoTokenizer
 
 # טעינת המודל וה-tokenizer
 model = AutoModelForCausalLM.from_pretrained("gpt2")
 tokenizer = AutoTokenizer.from_pretrained("gpt2")
 
-while True:
-    # קבלת פרומפט מהמשתמש
-    prompt = input("Enter your prompt (or type 'exit' to quit): ")
-    
-    if prompt.lower() == "exit":
-        print("Exiting the chatbot.")
-        break
-
-    # יצירת input_ids ו-attention_mask מהפרומפט שהוזן
+# פונקציה שמקבלת פרומפט ומחזירה תגובה
+def generate_text(prompt):
     inputs = tokenizer(prompt, return_tensors="pt")
-    input_ids = inputs.input_ids
-    attention_mask = inputs.attention_mask  # הוספת attention_mask
-
-    # יצירת טקסט בעזרת המודל
     gen_tokens = model.generate(
-        input_ids,
-        attention_mask=attention_mask,  # הגדרת attention_mask
+        inputs.input_ids,
+        attention_mask=inputs.attention_mask,
         do_sample=True,
         temperature=0.9,
         max_length=100,
-        pad_token_id=tokenizer.eos_token_id  # הגדרת pad_token_id ל-eos_token_id
+        pad_token_id=tokenizer.eos_token_id
     )
+    gen_text = tokenizer.decode(gen_tokens[0], skip_special_tokens=True)
+    return gen_text
+
+# יצירת ממשק Gradio עם קלט של טקסט ופלט של טקסט
+iface = gr.Interface(fn=generate_text, inputs="text", outputs="text")
 
-    # פענוח התגובה מהמודל
-    gen_text = tokenizer.batch_decode(gen_tokens, skip_special_tokens=True)[0]
-    print("Response:", gen_text)
+# הפעלת האפליקציה
+iface.launch()