Update app.py

app.py

@@ -2,6 +2,7 @@ import numpy as np
 import streamlit as st
 from transformers import AutoModelForCausalLM, AutoTokenizer
 import torch
+from accelerate import init_empty_weights
 
 # التحقق من توفر GPU
 device = "cuda" if torch.cuda.is_available() else "cpu"
@@ -11,12 +12,15 @@ def load_model():
     """
     تحميل النموذج والمُرمِّز مع التخزين المؤقت
     """
+    tokenizer = AutoTokenizer.from_pretrained("mistralai/Mistral-7B-Instruct-v0.2")
+    
+    # تحميل النموذج مع إعدادات الذاكرة المنخفضة
     model = AutoModelForCausalLM.from_pretrained(
-        "joermd/speedy-llama2",
+        "mistralai/Mistral-7B-Instruct-v0.2",
         torch_dtype=torch.float16,
-        device_map=device
+        low_cpu_mem_usage=True,
+        device_map="auto"
     )
-    tokenizer = AutoTokenizer.from_pretrained("joermd/speedy-llama2")
     return model, tokenizer
 
 # الصور العشوائية للكلاب عند حدوث خطأ
@@ -63,6 +67,13 @@ try:
         model, tokenizer = load_model()
 except Exception as e:
     st.error(f"حدث خطأ أثناء تحميل النموذج: {str(e)}")
+    st.error("تأكد من تثبيت جميع المكتبات المطلوبة:")
+    st.code("""
+    pip install -U accelerate>=0.26.0
+    pip install transformers
+    pip install torch
+    pip install streamlit
+    """)
     st.stop()
 
 # إعداد واجهة Streamlit
@@ -73,6 +84,12 @@ temp_values = st.sidebar.slider('اختر قيمة درجة الحرارة', 0.0
 max_token_value = st.sidebar.slider('اختر الحد الأقصى للرموز', 100, 2000, 500)
 st.sidebar.button('إعادة تعيين المحادثة', on_click=reset_conversation)
 
+# معلومات حول النموذج
+st.sidebar.markdown("""
+### معلومات النظام
+- النموذج: Mistral-7B-Instruct-v0.2
+- الجهاز: GPU متوفر ✅ """ if torch.cuda.is_available() else "CPU ⚠️")
+
 # تهيئة سجل المحادثة
 if "messages" not in st.session_state:
     st.session_state.messages = []