Update app.py

app.py

@@ -7,18 +7,18 @@ model_name = "methodya/1stapproachDeepsekPhilo_v2"
 tokenizer = AutoTokenizer.from_pretrained(model_name)
 model = AutoModelForCausalLM.from_pretrained(
     model_name,
-    device_map="auto",
-    torch_dtype=torch.float16,
+    device_map=None,  # تعطيل device_map
+    torch_dtype=torch.float32,  # استخدام float32 بدل float16
+    use_safetensors=True,  # استخدام safetensors بدل pytorch
+    low_cpu_mem_usage=False  # تعطيل low_cpu_mem_usage
 )
 
 def generate_response(prompt):
-    # إعداد المدخل بنفس الصيغة التي تم التدريب عليها
     system_prompt = "أنت مساعد متخصص في الفلسفة، تجيب عن الأسئلة بدقة وعمق، مع ربط المفاهيم ببعضها عند الحاجة."
     full_prompt = f"{system_prompt}\n\nالسؤال: {prompt}\n\nالجواب:"
     
-    inputs = tokenizer(full_prompt, return_tensors="pt").to(model.device)
+    inputs = tokenizer(full_prompt, return_tensors="pt")
     
-    # توليد الإجابة
     outputs = model.generate(
         **inputs,
         max_length=512,
@@ -29,12 +29,10 @@ def generate_response(prompt):
     )
     
     response = tokenizer.decode(outputs[0], skip_special_tokens=True)
-    # استخراج الإجابة فقط (بعد "الجواب:")
     response = response.split("الجواب:")[-1].strip()
     
     return response
 
-# إنشاء واجهة Gradio
 iface = gr.Interface(
     fn=generate_response,
     inputs=gr.Textbox(placeholder="اكتب سؤالك الفلسفي هنا..."),