// أساسيات البيانات الموزعة

صمّم مخزن key-value موزّعاً على سيرفرات كثيرة

مسار تصميم الأنظمة · 25 دقيقة

في نهاية هذا الدرس ستستطيع أن
  • تشرح كيف يوزّع مخزن key-value المفاتيح على سيرفرات كثيرة ويحتفظ بثلاث نسخ من كل مفتاح.
  • تختار قيم N وW وR لمنتج معيّن، وتعرف بالضبط ما الذي تدفعه مقابل هذا الاختيار.
  • تصف كيف يستمر المخزن في العمل حين تسقط سيرفرات، أو حين يكتب عميلان على المفتاح نفسه في اللحظة نفسها.

فكّر في سلة المشتريات في أي متجر أونلاين. لكل زائر سلة، وهي تتغير كل بضع ثوانٍ، والموقع لا يطلب منها إلا شيئين: هات سلة هذا المستخدم، واحفظ سلته الجديدة. هذا هو مخزن key-value: عملية get(key) لقراءة قيمة، وعملية put(key, value) لحفظها. ولا شيء غير ذلك.

يبدو الأمر سهلاً. لكن Amazon بنت نظام Dynamo من أجل هذه السلة تحديداً، وخرجت Cassandra وRiak من الأفكار نفسها. الصعوبة ليست في العمليتين. الصعوبة أن تبقيا سريعتين وصحيحتين والبيانات موزعة على مئات السيرفرات، وبعض هذه السيرفرات معطل في كل لحظة.

النسخة 1: سيرفر واحد

ابدأ بأبسط شيء يعمل. سيرفر واحد يحتفظ في الذاكرة بجدول hash map: تعطيه المفتاح فيعطيك القيمة في أجزاء من الملّي ثانية.

المشكلة أن الذاكرة تُمسح كلما أُعيد تشغيل السيرفر. لذلك يكتب السيرفر كل عملية أولاً في commit log على القرص، وهو ملف لا نفعل به شيئاً سوى الإضافة في آخره. وإذا سقط السيرفر، يقرأ هذا الملف من أوله عند التشغيل ويعيد بناء الجدول.

شيئان يقتلان هذه النسخة. يجب أن تتسع ذاكرة جهاز واحد لكل البيانات. وإذا مات هذا الجهاز ماتت الخدمة كلها معه.

النسخة 2: وزّع المفاتيح بالـhashing المتسق
  1. استرجع الحلقة من درس الـhashing المتسق. نحسب hash لكل سيرفر فيأخذ نقطة على دائرة، ونحسب hash لكل مفتاح بالطريقة نفسها، ثم نمشي مع عقارب الساعة. أول سيرفر نصادفه هو صاحب المفتاح.
  2. إضافة سيرفر أو إزالته تنقل فقط المفاتيح المجاورة له مباشرة، أي نحو 1/N من المجموع. أما مع key % N العادي فكانت كل المفاتيح تقريباً ستنتقل.
  3. أعطِ كل سيرفر حقيقي عدة نقاط افتراضية (virtual nodes) موزعة على الحلقة. هكذا يتوازن الحمل، والجهاز الأقوى يأخذ نقاطاً أكثر من الجهاز الأضعف ببساطة.
النسخة 3: ثلاث نسخ وقاعدة W + R > N

نسخة واحدة تموت مع سيرفرها. لذلك نخزّن كل مفتاح على N = 3 سيرفرات: صاحبه والسيرفرين اللذين يليانه على الحلقة. هذا هو النسخ المتماثل (replication) الذي رأيته في درس البيانات على نطاق واسع.

بعدها يتحكم رقمان في سلوك المخزن كله. الرقم W هو عدد السيرفرات التي يجب أن تؤكد الكتابة قبل أن نقول للعميل «تم الحفظ». والرقم R هو عدد السيرفرات التي يجب أن تجيب عند القراءة.

خذ مثالاً: W = 2 وR = 2. أي سيرفرين كتبت عندهما وأي سيرفرين قرأت منهما لا بد أن يشتركا في سيرفر واحد على الأقل، لأن 2 + 2 = 4 أكبر من 3. وهذا السيرفر المشترك عنده آخر قيمة، فتصل إليها القراءة. هذه هي قاعدة W + R > N: إذا تحققت، فكل قراءة تلتقي بآخر كتابة نجحت.

طيب، وماذا لو جعلناها W = 1 وR = 1؟ تصبح العمليتان سريعتين جداً، لأنك تنتظر سيرفراً واحداً فقط. لكن كتابة أكدها السيرفر A ثم قراءة أجاب عنها السيرفر B قد ترجع لك القيمة القديمة. اشتريت السرعة ودفعت ثمنها من صحة البيانات.

في التجربة التالية، جرّب W = 1 وR = 1 أولاً، ثم W = 2 وR = 2. بعدها أوقف سيرفراً أو اثنين، ولاحظ أي الإعدادات يبقى متاحاً.

جرّب بنفسك
حين يسقط سيرفر: الجار يستلم الطرد

مع الـquorum الصارم، إذا كان أحد السيرفرات الثلاثة المسؤولة عن المفتاح معطلاً وكانت W = 3، يُرفض الحفظ. السلة لا تُحفظ، والزبون يغادر.

أما الـsloppy quorum فيقبل الكتابة رغم ذلك. ترسلها إلى السيرفرات السليمة التالية على الحلقة، حتى لو لم تكن مسؤولة عن هذا المفتاح، ومعها ملاحظة باسم صاحبه الحقيقي. وحين يعود الصاحب، يرسل له السيرفر البديل الكتابة ثم يحذف نسخته. اسم هذه الخطوة hinted handoff.

الفكرة تشبه مندوب التوصيل الذي يجدك خارج البيت فيترك الطرد عند جارك، وحين ترجع يسلّمك الجار طردك. بقيت الخدمة متاحة طوال العطل. والثمن أن قراءة تحدث أثناء العطل قد تسأل السيرفرات الأصلية فلا تجد القيمة، لأنها ما زالت عند الجار.

كتابتان في اللحظة نفسها

عميلان يعدّلان المفتاح نفسه في اللحظة نفسها، كل واحد على نسخة مختلفة. أي القيمتين تبقى؟

الـvector clocks تعطيك جواباً دقيقاً. كل نسخة من القيمة تحمل قائمة صغيرة من أزواج (سيرفر، عدّاد). وبمقارنة القائمتين تعرف هل جاءت نسخة بعد الأخرى، أم أنهما افترقتا. فإذا افترقتا، تحتفظ بالاثنتين وتترك التطبيق يدمجهما. وهذا بالضبط ما فعلته سلة Dynamo: تدمج السلتين حتى لا يضيع أي منتج.

أما last-write-wins (LWW) فهو الحل الكسول: قارن توقيت الساعة واحذف النسخة الأقدم بصمت. سطر واحد من الكود، لكنه يحذف بيانات. شخصان يعدّلان سلة مشتركة، فيختفي منتج أضافه أحدهما. ثم إن ساعات السيرفرات لا تتطابق تماماً، فقد تكون النسخة «الأقدم» ليست الأقدم فعلاً. لا تستخدم LWW إلا حيث يكون ضياع كتابة أمراً مقبولاً حقاً.

من مات من السيرفرات، ومن تأخرت بياناته

لا يوجد هنا سيرفر رئيسي (master)، لذلك تكتشف السيرفرات الأعطال بطريقة الـgossip، أي تناقل الأخبار. كل ثانية، يتبادل كل سيرفر معلومات النبض مع بضعة سيرفرات يختارها عشوائياً. وخبر موت سيرفر ينتشر في المجموعة كلها خلال O(log N) جولة، دون أي مراقب مركزي.

الـgossip يخبرك من الحي ومن الميت، لكنه لا يخبرك من تأخرت بياناته. النسخ تختلف بصمت مع الوقت: طرد لم يُسلَّم من الجار، أو كتابة ضاعت في الطريق. أداة الإصلاح هنا هي شجرة Merkle. كل سيرفر يبني شجرة من قيم hash فوق مفاتيحه. يقارن السيرفران قيمة الجذر أولاً، فإذا اختلفت فقط ينزلان إلى الفروع المختلفة ويزامنان تلك المفاتيح وحدها. مقارنة hash واحد قد تؤكد لك أن ملايين المفاتيح متطابقة.

داخل السيرفر الواحد: رحلة الكتابة

تصل الكتابة أولاً إلى الـcommit log. هذه إضافة متتابعة في آخر الملف، وهي أسرع شيء يقدر عليه القرص. بعدها تدخل الـmemtable، وهو جدول مرتّب في الذاكرة.

حين يمتلئ الـmemtable، يكتبه السيرفر على القرص في ملف اسمه SSTable: ملف مرتّب لا يُعدَّل بعد ذلك أبداً. وعند القراءة يبحث السيرفر في الـmemtable أولاً، ثم في ملفات SSTable من الأحدث إلى الأقدم. ومع كل ملف يوجد Bloom filter يقول «هذا المفتاح غير موجود هنا بالتأكيد»، فيتخطى السيرفر معظم الملفات دون أن يفتحها.

لا شيء يُعدَّل في مكانه أبداً. القرص لا يرى إلا الإضافة في آخر الملفات، ومعها عملية خلفية اسمها compaction تدمج ملفات SSTable القديمة وتتخلص من القيم التي استُبدلت. لهذا تبقى الكتابة سريعة حتى تحت الضغط الشديد.

كتابةالطلبCommit logأضف على القرص أولًاMemtableمرتّبة في الذاكرةSSTableملف مرتّب لا يتغير1 أضف2 اكتب3 flush عند الامتلاءقراءةMemtableالأحدث أولًاSSTables حديثةSSTables أقدمإن لم يجدهإن لم يجده
تتبّع الكتابة: commit log ثم memtable ثم الحفظ في ملفات SSTable لا تتغير. والقراءة تمر بالـmemtable ثم الـBloom filters ثم ملفات SSTable، الأحدث أولاً.
الفكرة

لاحظ شيئاً: طوال الدرس لم تختر «أفضل» إعداد مرة واحدة. N وW وR، والـquorum الصارم أو المرن، والـvector clocks أو LWW: كل واحد منها مفتاح تضبطه. والوضع الصحيح يعتمد على أكثر ما يخافه منتجك: جواب بطيء، أم جواب قديم، أم كتابة ضائعة.

مخزن key-value الموزع في حقيقته مجموعة قرارات اخترتها بوعي. سلة المشتريات تريد أن تبقى قابلة للكتابة حتى أثناء الأعطال. أما رصيد الحساب البنكي فيريد أن تكون كل قراءة صحيحة، حتى لو اضطر لرفض بعض الطلبات.

خطأ شائع

الخطأ المشهور أن تعامل «التوزيع» كترقية مجانية: أضف سيرفرات فتحصل على التوسع والموثوقية معاً. كل ضمان في هذا الدرس له ثمن.

القراءة التي ترى آخر كتابة تكلّفك زمن استجابة أطول، لأنك تنتظر ردود W وR. والبقاء متاحاً أثناء الأعطال يكلّفك دقة البيانات (sloppy quorum). وحل التعارضات بأمان يكلّفك تعقيداً وقيماً أكبر حجماً (vector clocks). والكتابة السريعة تكلّفك قراءة أبطأ وعمل compaction مستمراً. وإذا ادعى تصميم أنه يعطيك كل هذا معاً بلا مقابل، فهو يخفي عنك الفاتورة.

اختبر نفسك

لديك N = 3 وW = 1 وR = 1. عميل حفظ قيمة وجاءه التأكيد، ثم قرأ المفتاح فوراً. ماذا قد يرجع له، ولماذا؟

جاوب في ذهنك أولاً، ثم تأكد.

الخلاصة

بنيت المخزن طبقة فوق طبقة: سيرفر واحد بجدول hash map وcommit log، ثم الـhashing المتسق لتوزيع المفاتيح، ثم ثلاث نسخ مع W = 2 وR = 2 حتى ترى القراءة آخر كتابة، ثم الـsloppy quorum والـhinted handoff لتنجو من الأعطال، ثم الـvector clocks لتتعامل بأمانة مع الكتابات المتزامنة، ثم الـgossip وشجرة Merkle لتبقى المجموعة سليمة، وأخيراً commit log وmemtable وملفات SSTable لتبقى الكتابة سريعة. هذا هو هيكل Dynamo.

طبّقها هذا الأسبوع

خذ قاعدة بيانات يشغّلها فريقك (Redis أو Cassandra أو حتى Postgres مع نسخ متماثلة) واكتب قيمها الحقيقية في N وW وR: كم نسخة موجودة، ومتى تُعتبر الكتابة محفوظة، وماذا قد ترجع القراءة إذا سقط سيرفر واحد. ثم ابحث عن مكان واحد تعتمد فيه على last-write-wins، واسأل نفسك: ما البيانات التي قد يحذفها بصمت؟ عشر دقائق، وستعرف لأول مرة ما الذي يعدك به نظامك فعلاً.

ما أصبحت تستطيعه الآن
  • تشرح كيف يوزّع مخزن key-value المفاتيح على سيرفرات كثيرة ويحتفظ بثلاث نسخ من كل مفتاح.
  • تختار قيم N وW وR لمنتج معيّن، وتعرف بالضبط ما الذي تدفعه مقابل هذا الاختيار.
  • تصف كيف يستمر المخزن في العمل حين تسقط سيرفرات، أو حين يكتب عميلان على المفتاح نفسه في اللحظة نفسها.

أساسيات البيانات الموزعة