Update app.py

app.py

@@ -2,7 +2,7 @@ import numpy as np
 import streamlit as st
 from transformers import AutoModelForCausalLM, AutoTokenizer
 import torch
-from accelerate import init_empty_weights
+import os
 
 # التحقق من توفر GPU
 device = "cuda" if torch.cuda.is_available() else "cpu"
@@ -12,26 +12,21 @@ def load_model():
     """
     تحميل النموذج والمُرمِّز مع التخزين المؤقت
     """
-    tokenizer = AutoTokenizer.from_pretrained("mistralai/Mistral-7B-Instruct-v0.2")
+    model_name = "mistralai/Mistral-7B-Instruct-v0.2"
     
-    # تحميل النموذج مع إعدادات الذاكرة المنخفضة
+    # تهيئة الـtokenizer أولاً
+    tokenizer = AutoTokenizer.from_pretrained(model_name)
+    
+    # تهيئة النموذج مع إعدادات مناسبة
     model = AutoModelForCausalLM.from_pretrained(
-        "mistralai/Mistral-7B-Instruct-v0.2",
+        model_name,
         torch_dtype=torch.float16,
         low_cpu_mem_usage=True,
         device_map="auto"
     )
+    
     return model, tokenizer
 
-# الصور العشوائية للكلاب عند حدوث خطأ
-random_dog = [
-    "0f476473-2d8b-415e-b944-483768418a95.jpg",
-    "1bd75c81-f1d7-4e55-9310-a27595fa8762.jpg",
-    "526590d2-8817-4ff0-8c62-fdcba5306d02.jpg",
-    "1326984c-39b0-492c-a773-f120d747a7e2.jpg",
-    "42a98d03-5ed7-4b3b-af89-7c4376cb14c3.jpg"
-]
-
 def reset_conversation():
     '''
     إعادة تعيين المحادثة
@@ -40,90 +35,76 @@ def reset_conversation():
     st.session_state.messages = []
     return None
 
-def generate_response(prompt, temperature, max_length):
+def generate_response(model, tokenizer, prompt, temperature=0.7, max_length=500):
     """
     توليد استجابة من النموذج
     """
     try:
-        inputs = tokenizer.encode(prompt, return_tensors="pt").to(device)
+        # تحضير المدخلات
+        inputs = tokenizer(prompt, return_tensors="pt").to(device)
         
+        # توليد النص
         with torch.no_grad():
             outputs = model.generate(
-                inputs,
+                **inputs,
                 max_length=max_length,
                 temperature=temperature,
                 do_sample=True,
                 pad_token_id=tokenizer.eos_token_id
             )
         
+        # فك ترميز النص المولد
         response = tokenizer.decode(outputs[0], skip_special_tokens=True)
         return response
+        
     except Exception as e:
-        return str(e)
+        return f"حدث خطأ أثناء توليد الاستجابة: {str(e)}"
+
+# تهيئة Streamlit
+st.title("Mistral Chat 🤖")
 
-# تحميل النموذج والمُرمِّز
+# إضافة أزرار التحكم في الشريط الجانبي
+with st.sidebar:
+    st.header("إعدادات")
+    temperature = st.slider("درجة الحرارة", min_value=0.1, max_value=1.0, value=0.7, step=0.1)
+    max_tokens = st.slider("الحد الأقصى للكلمات", min_value=50, max_value=1000, value=500, step=50)
+    
+    if st.button("مسح المحادثة"):
+        reset_conversation()
+
+# تحميل النموذج
 try:
-    with st.spinner('جاري تحميل النموذج... قد يستغرق هذا بضع دقائق...'):
+    with st.spinner("جاري تحميل النموذج... قد يستغرق هذا بضع دقائق..."):
         model, tokenizer = load_model()
+    st.sidebar.success("تم تحميل النموذج بنجاح! 🎉")
 except Exception as e:
     st.error(f"حدث خطأ أثناء تحميل النموذج: {str(e)}")
-    st.error("تأكد من تثبيت جميع المكتبات المطلوبة:")
-    st.code("""
-    pip install -U accelerate>=0.26.0
-    pip install transformers
-    pip install torch
-    pip install streamlit
-    """)
     st.stop()
 
-# إعداد واجهة Streamlit
-st.subheader('Mistral Chat')
-
-# إضافة أزرار التحكم في الشريط الجانبي
-temp_values = st.sidebar.slider('اختر قيمة درجة الحرارة', 0.0, 1.0, 0.5)
-max_token_value = st.sidebar.slider('اختر الحد الأقصى للرموز', 100, 2000, 500)
-st.sidebar.button('إعادة تعيين المحادثة', on_click=reset_conversation)
-
-# معلومات حول النموذج
-st.sidebar.markdown("""
-### معلومات النظام
-- النموذج: Mistral-7B-Instruct-v0.2
-- الجهاز: GPU متوفر ✅ """ if torch.cuda.is_available() else "CPU ⚠️")
-
 # تهيئة سجل المحادثة
 if "messages" not in st.session_state:
     st.session_state.messages = []
 
-# عرض رسائل المحادثة السابقة
+# عرض المحادثة السابقة
 for message in st.session_state.messages:
     with st.chat_message(message["role"]):
-        st.markdown(message["content"])
+        st.write(message["content"])
 
 # معالجة إدخال المستخدم
-if prompt := st.chat_input("اسألني سؤالاً"):
-    # عرض رسالة المستخدم
-    with st.chat_message("user"):
-        st.markdown(prompt)
+if prompt := st.chat_input():
     st.session_state.messages.append({"role": "user", "content": prompt})
     
-    # عرض رد المساعد
+    with st.chat_message("user"):
+        st.write(prompt)
+    
     with st.chat_message("assistant"):
-        try:
-            # توليد الرد
-            with st.spinner('جاري التفكير...'):
-                response = generate_response(
-                    prompt,
-                    temperature=temp_values,
-                    max_length=max_token_value
-                )
-            st.write(response)
-
-        except Exception as e:
-            response = "😵‍💫 يبدو أن هناك خطأ ما!\n حاول مرة أخرى لاحقاً.\n\n إليك صورة عشوائية لكلب 🐶:"
+        with st.spinner("جاري التفكير..."):
+            response = generate_response(
+                model=model,
+                tokenizer=tokenizer,
+                prompt=prompt,
+                temperature=temperature,
+                max_length=max_tokens
+            )
             st.write(response)
-            random_dog_pick = 'https://random.dog/' + random_dog[np.random.randint(len(random_dog))]
-            st.image(random_dog_pick)
-            st.write("رسالة الخطأ:")
-            st.write(e)
-
-        st.session_state.messages.append({"role": "assistant", "content": response})
+            st.session_state.messages.append({"role": "assistant", "content": response})