import gradio as gr from transformers import AutoModelForCausalLM, AutoTokenizer import torch # تحميل النموذج والتوكنايزر model_name = "methodya/1stapproachDeepsekPhilo_v2" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained( model_name, device_map="auto", torch_dtype=torch.float16, ) def generate_response(prompt): # إعداد المدخل بنفس الصيغة التي تم التدريب عليها system_prompt = "أنت مساعد متخصص في الفلسفة، تجيب عن الأسئلة بدقة وعمق، مع ربط المفاهيم ببعضها عند الحاجة." full_prompt = f"{system_prompt}\n\nالسؤال: {prompt}\n\nالجواب:" inputs = tokenizer(full_prompt, return_tensors="pt").to(model.device) # توليد الإجابة outputs = model.generate( **inputs, max_length=512, num_return_sequences=1, temperature=0.7, no_repeat_ngram_size=2, pad_token_id=tokenizer.eos_token_id ) response = tokenizer.decode(outputs[0], skip_special_tokens=True) # استخراج الإجابة فقط (بعد "الجواب:") response = response.split("الجواب:")[-1].strip() return response # إنشاء واجهة Gradio iface = gr.Interface( fn=generate_response, inputs=gr.Textbox(placeholder="اكتب سؤالك الفلسفي هنا..."), outputs="text", title="المساعد الفلسفي", description="نموذج متخصص في الإجابة عن الأسئلة الفلسفية باللغة العربية" ) iface.launch()