Datasets:

Mohamed-DLM

/

Ahmed-elemam-5_mp3_updated

like 0

السلام عليكم أنا أحمد الامام و النهارده هنتكلم عن أهم جزء بتحتاجه و انت بتبني أي software الـ video ده التاني من سلسلة design data intensive applications لو ما شوفتش الـ video الأول انصحك تشوفه قبل ما تبدأ معانا الـ data model ليه الـ data model هو أهم جزء في بناء أي software لان أي app ما هو الا وسيلة للتعامل مع الـ data هتخزن الـ data دي إزاي و ايه أحسن طريقة هتقراها إزاي بسرعة وقت ما تحتاجها يعني ايه أصلا data model الـ data model ما هي الا طريقة

لتمثيل الـ data بصورة أبسط بتسهلك التعامل معها يعني ايه مش فاهم لو انت app developer هتلاقي الـ data بالنسبالك ما هي الا ناس و شركات و فلوس و طلبات و actions و هكذا فانت محتاج تمثل الـ data دي بطريقة عشان الـ applications بتاعك يفهمها فهتلاقي نفسك حولتهم لـ data structure و object فانت كده عملت للـ data بتاعك modelling و لو نزلنا كمان layer هتلاقي انك محتاج تخزن الـ data structure دي في صورة data مفهومه أكتر و تقدر تستخدمها بأكتر من طريقة فهتلاقيك حولتها

الـ document في حالة الـ nosql database أو حولتها لـ tables في حالة الـ relational database أو حولتها لـ graph و لو نزلنا كمان layer هنلاقي ان الـ database engineers حولوا الـ tables و الـ graphs و الـ xml و الـ json document عملوا لها modelling في صورة bytes بتتحط في الـ ram أو files بتتحط في الـ disk عشان كده database engineers بيقدروا يعملوا لها query و يقدروا يـ search ـوا عليها بطريقة أسهل و لو عايز تنزل تجيبها من تحت أوي هتلاقي المهندسين

بتوع الـ hardware عندهم طريقة لتمثيل الـ bytes دي في صورة تيار كهربي و اشارات ضوء و مجال مغناطيسي فهتلاقي ان في الآخر أي app ما هو الا عبارة عن مجموعة layers للـ data models فوق بعض في الفصل ده هنتكلم عن الـ layer الثانيه و ان شاء الله في الفصل الثالث هنتكلم عن الـ layer رقم 3 و نشوف إزاي الـ storage engine شغال من جوه لو بتعمل project أو service جديده و مش عارف تستخدم sql و لا nosql مش عارف تستخدم mysql و لا mongodb كمل معنا الـ video للاخر

الكتاب هيبدأ يستعرض أهم الـ data models الموجوده حاليا و طبعا هيكون الـ sql أهم 1 فيهم و زي ما إحنا عارفين انه بيعتمد على ترتيب الـ data في شكل relations بين tables الـ tables دي مكونه من rows و column ليه الـ sql يعتبر أهم model و محافظ على مكانته في المجال طول الـ 40 أو الـ 50 سنة اللي فاته بسبب إستخدامه في معظم الـ business data processing و كان بيغطي كل احتياجاتهم الـ sql model مبني من الاساس عشان يـ support الـ transaction

processing وديه بتستخدم في الـ banking و الـ sales و الـ booking و غيرها كمان الـ batch processing وديه بتستخدم في التقارير و المرتبات و الفواتير و غيرها يعني ايه الـ transaction processing الـ transaction هي لو عندي أمر أو أكتر للـ database فاما هيتم تنفيذ بنجاح لكل الأوامر سوا و ده بيحصل حاجة إسمها commit أو بيحصل فشل في أي 1 منهم و هنا بيحصل حاجة إسمها rollback على سبيل المثال لو انت بتشتري كتاب الـ system لازم

يتأكد ان انت معاك فلوس تكفي في حسابك و ان الـ bookstore خد فلوسه و انت اخدت الكتاب أي واحدة من دول لو حصل فيها مشكلة كده العملية أو الـ transaction كلها مش هتم و هيحصل rollback بعد كده الكتاب بدأ يتكلم عن تاني model من اللي إحنا اتكلمنا عليهم إحنا اتكلمنا على الـ sql عن الـ nosql و زي ما شوفنا في الـ video الأول ان ما فيش tool بتطلع غير لما يكون فيه مشكلة معينة موجودة و الـ tool دي طلع عشان تحلها طب ايه

المشاكل اللي كانت موجودة في الـ sql أو الـ relational model عشان كده قرروا ان هم يعملوا حاجة جديده زي الـ nosql في الوقت ده كان بدأ مفهوم الـ big data يظهر و كان الـ scaling بتاع الـ relational database مش سهل تحقيقه على scale كبير لان كان معظم الناس وقتها بيفضلوا انهم يكبروا الـ machine اللي عليها الـ database بانهم يعملوا vertical scaling بس كان بيجي عند مرحلة الـ data بتاعتك بيكون صعب تتحط على machine واحدة فهتضطر تعمل لها horizontal scaling بانك تعمل

sharding للـ data لو مش عارف يعني ايه sharding فإحنا هنتكلم عنها في الـ video ـهات الجاية و لو مش عارف يعني ايه vertical scaling و horizontal scaling فإحنا اتكلمنا عنهم في الـ video الأول انصحك تشوفه و بسبب مشكلة الـ scaling اللي شفناها في الـ sql أو الـ relational database فهم قرروا انهم يبنوا model جديد من الأول قايم على فكرة انها يكون distributed أو متوزع في أكتر من server فيكون sharded و replicated by default لو مش عارف يعني ايه sharding أو replication و ان شاء الله زي ما

قلت هنتكلم عن sharding و replication بعد كده و تاني مشكلة في الـ scale model انها كان لها restrict schema يعني schema صارمه نتيجة ان هي متقسمه لـ table و rows و columns فهي بتجبرك ان انت تتبع الـ schema دي وجود الـ schema كان بيصعب عملية الـ migration للـ data لو table حجمه كبير فعمليه الـ schema build أو الـ schema change أي تغيير في الـ schema كان بتاخد وقت كبير جدا و بتضطر تعمل lock كامل للـ table في بعض الحالات أو انك تـ block الـ write لحد ما

migration بجانب ان الـ app بتاعك أوقات بيكون الـ data مش كلها بتتبع نفس الـ schema فهتلاقي انك ممكن بتبني table كبير وفيه columns كتير بس معظمها فاضي لان كل case بتملي column معينة و الباقي مش تبعها في document model هيقبل الـ data منك من غير schema و انت بتكتبها يعني لحظة كتابة الـ data مش هيعمل أي restriction أو check على الـ schema بتاعتك بدورك انك تعمل check و تتأكد الـ data دي موجودة و لا لا من ناحية الـ code

المشاكل دي اللي ادت لولاده حاجة زي الـ nosql بعد كده الكتاب جاب case زي linkedin profile و قال إزاي أقدر امثل كان بيعمل مثال يعني إزاي يقدر يعمل دي بالـ relational model و بعد كده هيشوف إزاي نقدر نعملها بالـ document model لو عايز تعمل database design لصفحه زي دي الـ user profile عشان نقدر نعمله identify و نجيب الـ user ده من أو الـ record بتاعه من الـ users database

table هيكون عندنا unique id و هنا في الحالة دي هو الـ user id وفي عندنا data تانية زي first name و الـ last name وفي data زي positions موجودة و الـ education و الـ contact info هنلاقي ان الـ relations دي one to many لان مثلا الـ user عنده أكتر من position في الـ profile بتاعه علشان نعمل تمثيل للـ one to many relation في relational model قدامنا كذا طريقة أول طريقة هي الطريقه normalized باننا هنفصل كل نوع فيهم في table زي ما موجود

في الرسمه و يكون منفصل و نربطهم بـ foreign key foreign key ده هيبقى عبارة عن reference للـ user id بحيث نقدر نربط الـ tables دول ببعض و إحنا بنـ retrieve الـ data يعني ايه normalize باختصار هي مجموعة من الـ forms أو الـ rules اللي بتطبق على الـ data عشان يكون وصفها normalized ان كل data مرتبطه ببعض تكون في table 1 خاصة بالـ entity دي و يكون ليه unique primary key يكون ليه key تقدر تعمله identify بيه و ان الـ

data ما يكونش فيها تكرار يعني مش موجودة في أكتر من مكان يعني مثلا إسم شركتك ما يكونش موجود في أكتر من table هيكون ليه مكان 1 و الباقي هيعمل reference في الـ table بتاعه لو محتاجة الطريقه التانيه لتمثيل الـ one to many relation اني اتخلي عن الـ normalization و احط الـ jobs و الـ companies أو الـ tables اللي ظاهرة قدامنا دي احط الـ data بتاعها في column في نفس الـ table بتاع الـ user كـ json أو xml و رغم ان فيه database بتدعم انك تحط index على الـ data و هي في الصورة دي علشان تقدر

بس ما بتكونش بنفس الكفاءه لو الـ data منفصله و الطريقه التالته ان أعمل encode للـ data و اسجلها كـ text في column و وقتها مش أقدر أعمل search أو query عليها بعد كده الكتاب هيتكلم عن إزاي هنمثل نفس الـ profile ده في الـ document model أقرب تمثيل و الاسهل هيكون إننا هنستخدم json model مش xml لان الـ json أبسط و هنستخدم مثلا حاجة زي mongodb أو couchdb فهتلاقي مثلا في الشكل ده هنلاحظ

json document انها تبدو أبسط بكتير عن الـ tables كمان كـ performance wise هي أحسن بكتير لان الـ locality في الـ json document أحسن يعني ايه locality يعني الـ data اللي هتحتاجها تكون قريبه مني في نفس المكان مش هبذل مجهود عشان اجمعها معايا سواء باني اقراها من table تاني أو أعمل join أو ابص على الـ disk عشان اقراها ايه ده خلاص أنا اشتريت أنا هقلب الـ app كله حالا هنستخدم mongodb استنى انت ما فكرتش في حالة الـ many to many هتعمل ايه مثلا في حالة الـ region لو

حطينا text جوه الـ document ده معناها انها هتتقرر بنفس الإسم في كل الـ document كمان لو عندك مناطق بنفس الإسم مش تقدر تفرق ما بينهم و لما تحتاج تعدل الإسم مثلا هتحتاج تعمل update لكل الـ document على عكس الـ sql في الحالة الـ normalization فانت هتعدل في مكان 1 بس في الـ table اللي موجود فيه الـ region كمان و انت بتعمل search اما تيجي ت search بالـ region id أكيد هيكون ادق لو هتعمل search بالـ text لان الـ text ممكن هيجيبلك data لمدن إسمها شبه الإسم ده أو فيها أجزاء

شبهها ايه ده خلاص أنا هحط في الـ document reference id و هعمل join اه نسيت أقولك ان الـ joins في الـ document model بعافيه شويه و انت تقريبا نسيت ان مش ده السبب اللي عشانه الناس عملوا nosql database و انه نقطة قوة الـ relational model في الحتة دي بالذات ان هو بيقدر يعمل الـ join بسهولة بعد كده الكتاب بيطرح تساؤل هل الـ document database بتعيد التاريخ زمان أول ما طلعت الـ sql

كان فيه models موجودة و كان مش عاجبها الـ relational model برضه لنفس الأسباب تقريبا و كانوا بيحاولوا بس للأسف الـ model بتاعهم ما قدرش يكمل قصاد الـ relational model بسبب ان الـ relational model كان بيعمل الـ joins بسهولة و كانت الـ many to many relations بالنسبه له مش ازمه خالص 1 من الـ model دي هو الـ hierarchical model الـ hierarchical model اللي تقريبا شبه الـ json model اللي في الـ document database انه بيحط الـ data كلها بتاعه الـ object في 1

document كانها tree of nested records شبه الرسم دي كده بالضبط و ده كان شغال كويس في الـ one to many relations بس كان سيء مع الـ many to many لانه ما كانش بيدعم الـ joins تقريبا نفس المشاكل اللي موجودة حاليا في الـ document model كان بيعاني منها الناس من سنة 1960 و 1970 عشان كده الكاتب كان مستغرب هل الـ document model بتعيد التاريخ من تاني بعد كده الكاتب تطرق لـ model تاني و هو الـ network model و ده كان شبه الـ

hierarchical model بس الفرق في الـ network انه هو كان اشبه بالـ graph يعني كانت الـ document في الـ network model كان لها أكتر من parent و الـ links ما بين الـ document كانت مش foreign keys كانت حاجة شبه الـ pointer في لغات البرمجة بس دي ما كانتش في الـ memory كانت بتتحط على الـ disk عادي لأنها data في الآخر محتاجة تتحفظ كان إسمها access path و كان عشان يبحث أو يجيب data كان بيمشي كانه بيعمل traversa في linked list يبدأ من الـ head و يفضل

يدور لحد ما يلاقي الـ data و لازم ياخد باله انه ما ياخدش نفس الـ data مرتين و ده كان للأسف نقل المشكلة من ناحية انها تبقى موجودة في الـ database engine انها بقت موجودة من ناحية الـ developer انه لازم يحل المشكلة دي من الـ application و ده اضاف تعقيد للـ model ده و خلي التعامل معاه مش سهل عشان كده الناس كانت بتتجنبه انها تشتغل بيه انما في الـ relational model كانت عبارة زي ما انتو عارفين عن table و rows فما كانش فيه أي nested structure

و لا التعقيد الموجود بتاع الـ access path وفي الـ relational database موجود query optimizer و ده محتاج حلقات لوحده عشان نتكلم فيه الـ query optimizer بيقدر يختار ايه الـ index المناسب اللي يسترجع بيه الـ data و امتي يستخدمه و امتي يستخدم index و امتي ما يستخدمش index خالص و ده نقل التعقيد اللي كان هيكون موجود عندنا في الـ code ده و إحنا بنقوم بالكلام ده بنفسنا و بقى encapsulated جوه الـ engine و خلانا بنرمي أي query و إحنا متطمنين ان فيه وحش ورا بيخلص الموضوع فانت بقى كل

دورك كـ developer ان انت تشوف عايز تـ access الـ data إزاي و هتعمل عليها search بايه و تحط index على الـ column اللي انت محتاج تـ search بيه هل كده خلاص هل إحنا كده خلصنا المقارنه ما بين الـ relational model و الـ document model لا طبعا طول الكتاب في الفصول الجاية ما هي الا مقارنات ما بينهم من أكتر من جهه هتشوف الصورة كاملة في الآخر و تقدر وقتها تختار كويس امتي تستخدم ده و امتي تستخدم ده في بعض الـ cases ممكن تصل انك تعمل checklist للمتطلبات المطلوبه منك في الـ service أو الـ app بتاعك و

تعلم على كل حاجة مرتبطه بنوع لحد ما توصل في الآخر انك تقرر الـ application بتاعك محتاج انه model بالضبط هيجي 1 يقولي أنا لسه مش فاهم يعني أنا خلاص ما استخدمش الـ document model هقول له لا طبعا الـ document model مهمة جدا زي ما قلت لو ال application بتاعك مش بيعتمد بشكل كبير على الـ many to many relations وقتها هكون أحسن و اسرع من الـ relational model لان زي ما قلنا الـ locality عندها أحسن الـ data اللي أنا محتاجها دايما معايا بمجرد ان أنا معايا الـ id

بتاع الـ document أنا خلاص وصلت للـ data و مش محتاج أعمل أي query تانية أو اسأل table معين أقول له فين بقيت الـ data بتاعتي أو أعمل joins كمان في ميزة في الـ document model ان لو الـ application بتاعك الـ data فيه ما لهاش schema محدده يعني schema less فهو هيكون أحسن بالنسبالك انك تستخدمه لو الـ application أو الـ service اللي انت شغال عليها شغلها analytical أو real time بشكل كبير فانت أقرب للـ document model لانه وقتها مش هتعمل joins و لا هتربط tables

إحنا كده تقريبا في نص الفصل و طبعا لسه كلام كتير في المقارنه ما بين الـ sql و nosql databases في الفصول الجاية هتخليك تبني صورة كاملة كان فيه بس نقطة اخيره من تجربتي الشخصية لما تقرر اختار أي tool عشان تشوف هتناسب الـ app بتاعك أو لا لازم تعمل checklist و تطلع كل النقاط المهمة و تروح تدور بالتفصيل هل الـ tool دي بتدعم ده بشكل كويس أو لا واخد بالك من المقارنات اللي بتكون موجودة على الـ internet تشوف مين مصدرها يعني في case حصلت معايا

مرة ان حد قرر ان إحنا هنشتغل mongodb لـ service معينة عشان مقارنة في article موجودة على موقع mongodb و طبعا في المقال كاتبين ان mongodb بتقدر تعمل كل حاجة و بتتشقلب في حين ان ده مش صحيح فانت كانك رايح للبياع و تقوله الـ tshirt ده حلو طبعا هيقولك حلو ده كانه متفصل عليك سلام