مرجع
آخر الزيارات

تواز على مستوى الذاكرة

986 كلمة•0 مشاهدة•🗒️ منذ يومين
باختصار: التوازي على مستوى الذاكرة ( واختصاراً MLP) هو قدرة وحدة المعالجة المركزية على التعامل مع عدة طلبات وصول إلى الذاكرة في آنٍ واحد، بدلاً من معالجتها بصورة تسلسلية. تتناول المقالة 11 قسماً، منها «جدولة طلبات الذاكرة»، «ذاكرات التخزين المؤقت غير الحاجزة» و«تحليل أداء MLP».
المحتويات
  1. جدولة طلبات الذاكرة
  2. ذاكرات التخزين المؤقت غير الحاجزة
  3. تحليل أداء MLP
  4. الجلب المسبق
  5. الأهمية في الحوسبة الحديثة
  6. التنفيذ خارج الترتيب
  7. مخطط: مقارنة النموذج التسلسلي بنموذج التداخل
  8. الآليات والتقنيات
  9. المعالجة المتعددة الخيوط
  10. المقارنة بين MLP وILP
  11. نظرة عامة

تعريفًا بالموضوع، التوازي على مستوى الذاكرة ( واختصاراً MLP) هو قدرة وحدة المعالجة المركزية على التعامل مع عدة طلبات وصول إلى الذاكرة في آنٍ واحد، بدلاً من معالجتها بصورة تسلسلية. تبرز أهمية هذا المفهوم بصفة خاصة في حالات إخفاق ذاكرة التخزين المؤقت (Cache Miss)، إذ يُتيح MLP للمعالج إصدار طلبات ذاكرة متعددة معلّقة في الوقت ذاته عوضاً عن التوقف وانتظار اكتمال كل طلب على حدة. وتعرض الأقسام التالية جوانب أخرى من الموضوع.

ومن ناحية أخرى، يُعدّ MLP ركيزةً جوهرية في التصدي لمشكلة «جدار الذاكرة» (Memory Wall)، وهي الفجوة المتسعة باستمرار بين سرعة المعالجات وسرعة ذاكرة الوصول العشوائي (RAM)، وقد تضاعفت خطورة هذه المشكلة مع تسارع تطور المعالجات في حين ظلت زمن تأخير الذاكرة الرئيسية أبطأ نمواً بكثير.

جدولة طلبات الذاكرة

وعلى صعيد آخر، يتولى جدول طلبات الذاكرة (Memory Request Scheduler) ترتيب الطلبات المعلّقة وإعادة تنظيمها بهدف تقليل تعارضات DRAM وزيادة كفاءة استغلال الحافلات (Buses). تعتمد وحدات التحكم الحديثة بالذاكرة خوارزميات متطورة كـ FR-FCFS (First-Ready First-Come-First-Serve) لإعادة ترتيب الطلبات وتعظيم معدل النفاذية الكلية.

ذاكرات التخزين المؤقت غير الحاجزة

إضافةً إلى ذلك، تُعدّ ذاكرة التخزين المؤقت غير الحاجزة (Non-blocking Cache) شرطاً ضرورياً لتحقيق MLP على المستوى العملي. خلافاً للذاكرات المؤقتة الحاجزة التي تُجمّد أي طلب جديد ريثما يُعالَج الإخفاق الجاري، تواصل الذاكرات غير الحاجزة خدمة الطلبات الواردة حتى في وجود إخفاقات سابقة معلّقة (Hit under Miss، وMiss under Miss). ويتحقق ذلك بفضل سجلات خاصة تُعرف بـسجلات الاحتفاظ بحالة الإخفاق (Miss Status Holding Registers - MSHRs)، التي تتتبع كل إخفاق معلّق وتحفظ معلوماته حتى وصول البيانات.

تحليل أداء MLP

وعلى صعيد آخر، كفاءة استغلال عرض النطاق (Bandwidth Utilization): نسبة عرض نطاق الذاكرة المستغل فعلياً إلى العرض الأقصى المتاح نظرياً.

يُقيَّم أداء MLP بعدة مقاييس:

ومن جهة أخرى، متوسط الطلبات المعلّقة (Average Outstanding Requests): يعكس متوسط عدد طلبات الذاكرة التي يصدرها المعالج في الوقت ذاته؛ فكلما ارتفع هذا الرقم دل ذلك على توازٍ أعلى وإخفاء أفضل للتأخير.

جدول: تطور دعم MLP في المعالجات التجارية

إضافةً إلى ذلك، وقد أثبتت الدراسات أن كثيراً من التطبيقات الواقعية تُولّد مستوى MLP أدنى مما تتيحه العتاد، مما يكشف أن القيد الحقيقي في أحيان كثيرة هو طبيعة النمط الحسابي لا محدودية العتاد.

من جانب آخر، عدد دورات التوقف (Stall Cycles): كلما انخفض هذا العدد دلّ ذلك على فاعلية أعلى لآليات MLP في إخفاء التأخير.

الجلب المسبق

وفي السياق ذاته، الجلب المسبق بالمعدات (Hardware Prefetching): ينفّذه المعالج تلقائياً بالكشف عن أنماط الوصول المنتظمة كالتتابع الخطي.

علاوةً على ذلك، يرمي الجلب المسبق (Prefetching) إلى التنبؤ بالبيانات التي سيحتاجها المعالج قريباً، وجلبها إلى ذاكرة التخزين المؤقت قبل طلبها فعلياً. ينقسم الجلب المسبق إلى نوعين رئيسيين:

علاوةً على ذلك، الجلب المسبق بالبرمجيات (Software Prefetching): يُدرج المترجم (Compiler) أو المطوّر تعليمات جلب مسبق صريحة في الشيفرة المصدرية.

الأهمية في الحوسبة الحديثة

ومن جهة أخرى، مع تصاعد أعباء الحوسبة السحابية وتطبيقات التعلم الآلي، أصبح MLP عاملاً محورياً في أداء الخوادم وبنى العتاد المتخصص. تعاني تطبيقات مثل قواعد البيانات ومحركات البحث وأطر عمل التعلم العميق من معدلات إخفاق مرتفعة في ذاكرة التخزين المؤقت بسبب أنماط الوصول العشوائية غير المنتظمة، لذا فإن القدرة على معالجة مئات الطلبات المتوازية للذاكرة تفوق في أهميتها سرعة التنفيذ التسلسلي للتعليمات.

  • انظر كذلك
  • توازي على مستوى التعليمات
  • ذاكرة التخزين المؤقت
  • التسلسل الهرمي لذاكرة التخزين المؤقت
  • تنفيذ خارج الترتيب
  • ذاكرة الوصول العشوائي الديناميكية
  • بنية الحاسوب
  • تخزين حسابي
  • منطق داخل الذاكرة
  • حوسبة المستودع
  • تلدين عصبي
  • معمارية ARM

ومن جهة أخرى، في المقابل، تسلك بنيات المنطق داخل الذاكرة مساراً مغايراً جذرياً؛ فبدلاً من إخفاء زمن التأخير عبر التداخل كما يفعل MLP التقليدي، تُزيل هذه البنيات مشكلة الكمون من جذرها بنقل المعالجة إلى موضع البيانات ذاته. وبهذا المعنى يُمثّل المنطق داخل الذاكرة تطوراً فلسفياً لما أرساه MLP، لا بديلاً عنه، إذ يُمكن الجمع بين النهجين في البنى الهجينة الحديثة.

من جانب آخر، وفي سياق الأجهزة المحمولة وأنظمة الطاقة المنخفضة، تحتل بنيات ARM مكانةً بارزة في استغلال MLP ضمن قيود الطاقة الصارمة. تعتمد هذه البنيات على تقنيات جلب مسبق متطورة وذاكرات غير حاجزة ذات عمق مدروس لتحقيق أقصى أداء ممكن عند أدنى استهلاك للطاقة، إذ إن توسيع عمق الطلبات المعلّقة يُكلّف طاقةً إضافية تتعارض مع متطلبات الأجهزة المحمولة.

من جهة ثانية، في وحدات معالجة الرسومات (GPU)، يُعدّ MLP ركيزة التصميم المعمارية بامتياز؛ إذ تعتمد هذه الوحدات على الاحتفاظ بآلاف الخيوط المعلّقة في وقت واحد لإخفاء زمن تأخير الذاكرة بالكامل على وجه التقريب، بدلاً من الاستثمار في ذاكرات تخزين مؤقت كبيرة كما هو الحال في المعالجات العامة.

التنفيذ خارج الترتيب

وفي هذا السياق، يُتيح تنفيذ خارج الترتيب (Out-of-Order Execution) للمعالج الاستمرار في تنفيذ التعليمات اللاحقة التي لا تعتمد على البيانات المتأخرة، مما يُمكّنه من إصدار طلبات ذاكرة إضافية في أثناء انتظار استجابة الطلب الأول. ويُعدّ هذا الأسلوب الركيزة الأساسية لتحقيق MLP في المعالجات الحديثة، إذ يكشف عن إخفاقات ذاكرة التخزين المؤقت المتعددة ويشرع في معالجتها بالتوازي.

مخطط: مقارنة النموذج التسلسلي بنموذج التداخل

في هذا الإطار، يوضح المخطط الزمني الآتي الفرق الجوهري بين معالجة طلبات الذاكرة تسلسلياً (بدون MLP) ومعالجتها بالتداخل (مع MLP). تُمثّل كل خانة عشر دورات ساعة، ويُفترض أن زمن تأخير الذاكرة الرئيسية يساوي 40 دورة لكل طلب:

الآليات والتقنيات

علاوةً على ذلك، تعتمد المعالجات الحديثة على جملة من الآليات المتكاملة لرفع مستوى التوازي على مستوى الذاكرة:

المعالجة المتعددة الخيوط

في هذا الإطار، تُسهم المعالجة المتعددة الخيوط (Multithreading)، ولا سيما المعالجة المتزامنة المتعددة الخيوط (SMT)، في رفع مستوى MLP الفعلي من منظور النظام بأسره. ففي حين يتوقف خيط ما انتظاراً لذاكرته، ينتهز المعالج الفرصة لتنفيذ خيوط أخرى، مما يُبقي وحدات التنفيذ في حالة نشاط مستمر ويرفع كفاءة استغلال عرض نطاق الذاكرة.

المقارنة بين MLP وILP

ومن ناحية أخرى، يوضح الجدول الآتي الفروقات الجوهرية بين التوازي على مستوى التعليمات والتوازي على مستوى الذاكرة:

نظرة عامة

من جهة ثانية، ينبثق مفهوم MLP من ضرورة استغلال فترة الانتظار تلك بإصدار طلبات ذاكرة إضافية موازية، بحيث يُخفى زمن التأخير وراء العمل الفعلي. وقد أشار أندي غلو (Andy Glew) عام 1998 في ورقته الشهيرة إلى أن تحسين MLP أجدى نفعاً من تحسين التوازي على مستوى التعليمات (ILP) في كثير من التطبيقات الواقعية كثيفة الوصول إلى الذاكرة.

وفي هذا السياق، يختلف التوازي على مستوى الذاكرة اختلافاً جوهرياً عن التوازي على مستوى التعليمات؛ فبينما يسعى الأخير إلى تنفيذ تعليمات متعددة في الدورة الواحدة، يرمي MLP تحديداً إلى تقليل أثر زمن تأخير الذاكرة من خلال التداخل (Overlapping) بين عمليات القراءة والكتابة المتعددة في الوقت ذاته.

من جهة ثانية، في المعالجات التقليدية ذات البنية التسلسلية البسيطة، حين يحتاج المعالج إلى بيانات غير موجودة في ذاكرة التخزين المؤقت (Cache Miss)، يتوقف تدفق التعليمات ويظل المعالج في حالة توقف (Stall) حتى يستقبل البيانات المطلوبة من الذاكرة الرئيسية. وبما أن زمن تأخير الذاكرة الرئيسية قد يتجاوز مئة دورة ساعة، فإن هذا الانتظار يُفقد كثيراً من الطاقة الحسابية للمعالج دون استغلال فعلي.

ما رأيك في هذه المقالة؟

📝 هل في هذه المقالة خطأ؟

إذا وجدت معلومة تحتاج تصحيحاً أو إضافة، أو أردت حذف المقالة، أرسل لنا طلباً وسنراجعه.