مرجع
آخر الزيارات

نظرية التقدير

1٬246 كلمة•0 مشاهدة•🗒️ منذ يوم
باختصار: نظرية التقدير Estimation theory هي فرع من علوم الإحصاء ومعالجة الإشارات التي تتعامل مع تقدير القيم من المَعلَمَات Parameters بناء على بيانات مقاسة / التجريبية التي تحتوي على عنصر عشوائي. تتناول المقالة 21 قسماً، منها «ثانيا، لدينا المعلمات M المقابلة»، «عملية التقدير» و«وبحساب المشتقة الثانية».
المحتويات
  1. ثانيا، لدينا المعلمات M المقابلة
  2. عملية التقدير
  3. وبحساب المشتقة الثانية
  4. أساسيات
  5. حد كرايمر راو
  6. تطبيقات
  7. هذا عنده تباين
  8. بناء على عدم العلاقة، احتمال يصبح
  9. النموذج للإشارة يكون
  10. هندسة البرمجيات
  11. والتي هي ببساط متوسط العينة
  12. والذي هو متوسط العينة
  13. حد كرايمر-راو الأقل
  14. ثابت مجهول في الضجيج الأبيض الغوصي الجمعي
  15. و
  16. الإمكان الأعظم
  17. مرشح كالمان
  18. الحد الأقصى للتوزيع المنتظم
  19. تقرير المدار
  20. مقدرون
  21. و

قبل الخوض في التفاصيل، نظرية التقدير Estimation theory هي فرع من علوم الإحصاء ومعالجة الإشارات التي تتعامل مع تقدير القيم من المَعلَمَات Parameters بناء على بيانات مقاسة / التجريبية التي تحتوي على عنصر عشوائي. المَعلَمَات تصف وضع مادي ضمني بطريقة أن قيمها تؤثر على توزيع البيانات المقاسة. المقدّر Estimator يحاول أن يضع قيم تقريبة للمَعلَمَات المجهولة باستخدام القياسات. ونتناول فيما يلي مزيدًا من التفاصيل.

وفي هذا الصدد، أو، مثلًا، في الرادار يكون الهدف هو تقدير المدى أجسام (الطائرات والقوارب، وغيرها) عن طريق تحليل توقيت العبور في الاتجاهين للأصداء الواردة من النبضات المرسلة. حيث أن النبضات المنعكسة هي حتما جزء لا يتجزأ من إشارات الضوضاء الكهربائية، فإن قيمها المقاسة توزع عشوائيا بحيث يجب تقدير وقت العبور.

علاوةً على ذلك، في نظرية التقدير، يفترض أن البيانات المقاسة تكون عشوائية مع توزيع احتمالي معتمد على المَعلَمَات ذات الاهتمام. مثلًا، في نظرية الاتصال الكهربائية، غالبا ما ترتبط القياسات التي تحتوي على معلومات تتعلق المَعلَمَات ذات الاهتمام مع إشارة ضوضاء. بدون العشوائية، أو الضجيج، فإن المشكلة تكون حتمية ولن تكون هناك حاجة تقدير.

ومن ناحية أخرى، مثلًا، من المرغوب فيه لتقدير نسبة من السكان من الناخبين الذين سيصوتون لصالح مرشح معين. هذه النسبة هي المعلمة غير قابلة للرصد، ويستند هذا التقدير على عينة عشوائية صغيرة من الناخبين.

ثانيا، لدينا المعلمات M المقابلة

من جهة ثانية، بعد أن يتم تشكيل النموذج، يصبح الهدف من ذلك هو تقدير المعلمات، وترمز عادة ، حيث تشير «القبعة» إلى التقدير.

ومن جهة أخرى، كأساس للمثالية. ويتم تربيع وتقليل مصطلح الخطأ أجل مقدر MMSE.

من جانب آخر، وهناك مقدر واحد مشترك هو مقدر متوسط مربع الخطأ الأدنى Minimum mean squared error (MMSE)، الذي يستعمل خطأ بين المعلمات المقدرة والقيمة الفعلية للمعلمات

من جهة ثانية، ومن الممكن كذلك للمعلمات أنفسهم أن يكون لديهم توزيع احتمالي (مثلًا، إحصائيات بايزي). ومن ثم من الضروري تحديد احتمال بايزي

من جانب آخر، والتي تحتاج إلى أن تنشأ مع دالة الكثافة الاحتمالية (د.ك.ا) المستمرة أو تظيرنها دالة الكتلة الاحتمالية المنفصلة

عملية التقدير

إضافةً إلى ذلك، الغرض كله من نظرية تقدير هو التوصل إلى مقدر، ويفضل أن يكون قابلاً للتنفيذ ويمكن استخدامه فعليا. المقدر يأخذ البيانات المقاسة كمدخل وينتج تقدير للمعلمات.

من جهة ثانية، وأخيرا، يمكن تشغيل وإجراء تجارب محاكاة باستخدام مقدر لاختبار أدائها.

وفي هذا الصدد، بعد الوصول إلى المقدر، يمكن أن تبين البيانات الحقيقية أن النموذج المستعمل للتوصل إلى المقدر غير صحيحة، مما قد يتطلب تكرار هذه الخطوات لإيجاد مقدر جديد. والمقدر الغير قابل للتنفيذ أو غير المجدي يمكن إلغاءه ويمكن بدأ هذه العملية من جديد.

من جانب آخر، وباختصار، فإن المقدر يقدر المعلمات الخاص بنموذج مادي على أساس البيانات المقاسة.

ومن جهة أخرى، من المفضل كذلك استخلاص مقدر ذو خاصية مثالية. مثالية المقدر عادة ما تشير إلى تحقيق الحد الأدنى من متوسط الخطأ على نطاق من بعض فئات المقدرات، مثلًا، المقدر غير المتحيز ذى أقل تباين. في هذه الحالة، فإن الطبقة هي مجموعة من المقدرات غير المتحيزة، وقيمة متوسط الخطأ هي قيمة التباين (متوسط تربيعية الخطأ بين قيمة التقدير والمعلمة). ومع ذلك، المقدرات الأمثل لا وجود لها دائما.

ومن ناحية أخرى، تاليا، المقدر يحتاج إلى تطوير أو تطبيق في حالة وجود مقدر معروف وصالح لهذا النموذج. لا بد من اختبارالمقدر إزاء القيود لتحديد ما إذا كان هو المقدر الأمثل (وإذا كان الأمر كذلك فإنه لا مقدر أخرى سوف يؤدي بشكل أفضل منه).

ومن ناحية أخرى، بعد اتخاذ قرار بناء على نموذج احتمالي، فإنه من المفيد العثور على القيود المفروضة على المقدر. هذا القيد، مثلًا، يمكن العثور من خلال حد كريمر-راو Cramér–Rao bound.

هذه هي الخطوات العامة للتوصل إلى مقدر:

كذلك، من أجل التوصل إلى مقدر المطلوب، فمن الضروري أولا تحديد التوزيع الاحتمالي للبيانات المقاسة، ومدى ارتباط التوزيع بالمعلمات المجهولة ذات الصلة. في كثير من الأحيان، قد يكون التوزيع الاحتمالي مشتق من النماذج المادية التي تظهر بوضوح علاقة البيانات المقاسة بالمعلمات المطلوب تقديرها، وكيف تتلف البيانات عن طريق أخطاء عشوائية أو ضوضاء. في حالات أخرى، يتم «افتراض» التوزيع الاحتمالي للبيانات المقاسة ببساطة، مثلًا، على أساس الإلمام بطبيعة البيانات المقاسة و/أو الملائمة التحليلية.

وبحساب المشتقة الثانية

وفي هذا السياق، بمقارنة هذا تباين متوسط العينة (التي سبق تحديدها) يظهر أن متوسط العينة يساوي حد كرايمر-راو الأقل لجميع قيم و.

  • وإيجاد القيمة السالبة المتوقعة يصبح بسيطاً لأنها الآن ثابت حتمي
  • وأخيراً توضع معلومات فيشر:
  • وهذا ينتج:

كذلك، وبكلمات أخرى، فأن متوسط العينة هو (فريدة من نوعها بالضرورة) المقدر الأكفأ، وبالتالي المقدر غير متحيز ذى أقل تباين بالإضافة لكونه مقدر الإمكان الأعظم.

أساسيات

وفي هذا الصدد، الأول هو عبارة عن مجموعة من العينات الإحصائية مأخوذة من متجهات عشوائية (RV) من حجم N. بعد وضعها في متجه

حد كرايمر راو

  • متوسط مربع الخطأ الأدنى ويعرف كذلك بخطأ بايز المربعات الصغرى
  • تعظيم الاقتران البعدي
  • المقدر غير متحيز ذى أقل تباين
  • أحسن مقدر خطي غير متحيز
  • مقدر غير متحيز
  • مرشح الجسيم
  • مونتي كارلو سلسلة ماركوف
  • مرشح كالمان
  • مرشح كالمان المجموعة
  • مرشح وينر
  • أمثلة

تطبيقات

كذلك، الكثير من المجالات تتطلب استخدام نظرية التقدير. في ما يلي بعض من هذه المجالات: (ولكنها لا تقتصر عليها بأي حال من الأحوال):

  • تفسير التجارب علمية
  • معالجة الإشارات
  • التجارب السريرية
  • استطلاعات الرأي
  • ضبط الجودة
  • الاتصالات السلكية واللاسلكية
  • إدارة المشاريع

هذا عنده تباين

وفي هذا الصدد، لذا فإن الانحراف المعياري على وجه التقريب ، لحجم العينات متوسط حجم الفجوة بين العينات؛ مقارنة أعلاه. ويمكن رؤية هذا على أنه حالة بسيطة جدا من تقدير المسافة القصوى maximum spacing estimation.

علاوةً على ذلك، الحد الأقصى للعينة هو مقدر الإمكان الأعظم للحد الأقصى لمجتمع العينات population maximum ، ولكن، كما نوقش أعلاه، هو منحاز.

بناء على عدم العلاقة، احتمال يصبح

  • وبحساب اللوغاريتم الطبيعي ل (د. ك. ا)
  • ومقدر الإمكان الأعظم هو
  • ويحساب المشتقة الأولى لدالة الإمكان اللوغاريتمية
  • ووضع قيمتها إلى الصفر
  • النتائج من مقدر الإمكان الأعظم

النموذج للإشارة يكون

اثنان من المقدرون (الكثر) الممكنة هما:

هندسة البرمجيات

نظام شبكة كشف التسلل

نظرية التحكم (التحكم التكيفي على وجه الخصوص)

والتي هي ببساط متوسط العينة

ومن جهة أخرى، من هذا المثال نجد أن متوسط العينة هو مقدر الإمكان الأعظم ل عينات ذات معلمة ثابتة ومجهولة ومشوشة ب AWGN.

والذي هو متوسط العينة

وفي هذا السياق، كل من هذه المقدرات لديها متوسط , التي يمكن أن تظهر من خلال أخذ القيمة المتوقعة من كل مقدر

حد كرايمر-راو الأقل

كذلك، لإيجاد حد كرايمر-راو الأقل لمقدر متوسط العينة، فأنه من الضروري إيجاد رقم معلومات فيشر

وبالأخذ من أعلاه

ثابت مجهول في الضجيج الأبيض الغوصي الجمعي

وعلى صعيد آخر، لننظر في إشارة متقطعة وردت، , من من عينات مستقلة التي تتألف من ثابت مجهول مع ضجيج أبيض غوصي جمعي (AWGN) مع تباين معروف (أي، ).

يعني أن المعلمة المجهول هي فقط .

و

ومن ناحية أخرى، يبدو أن متوسط العينة هو أفضل مقدر لأن التباين الخاص فيه يكون أقل عن كل N> 1.

الإمكان الأعظم

واحتمال يصبح ( ويمكن اعتباره )

وفي السياق ذاته، بالاستمرار بالمثال باستخدام مقدر الإمكان الأعظم، دالة الكثافة الاحتمالية (د. ك. ا) من ضوضاء عينة واحدة هي

مرشح كالمان

سلسلة ماركوف مونتي كارلو (MCMC)

ملاحظات

الحد الأقصى للتوزيع المنتظم

إضافةً إلى ذلك، وأضيفت الفجوة للتعويض عن التحيز السلبي للحد الأقصى للعينة وكمقدر للحد الأقصى لمجتمع العينات.

ومن ناحية أخرى، لنأخذ توزيع متقطع منتظم مع حد أقصى مجهول، المقدر المنتظم غير المتحيز ذى اقل تباين للحد الأقصى معطى بواسطة

من جهة ثانية، هذه المسألة تعرف عادة بمسألة الدبابة الألمانية نظراً لتطبيق أقصى تقدير لتقديرات إنتاج الدبابة الألمانية خلال الحرب العالمية الثانية.

يمكن فهم المعادلة بشكل حدسي كما يلي:

وعلى صعيد آخر، حيث m هي حد العينة الأقصى وkهي حجم العينة، أخذ العينات بدون تبديل.

كذلك، «الحد الأقصى للعينة فضلًا عن الفجوة بين متوسط الملاحظات في العينة»,

علاوةً على ذلك، واحد من أبسط الأمثلة غير تافهة من التقدير هو تقدير الحد الأقصى لتوزيع موحد. فهو يستعمل كتمارين في الفصول الدراسية والتدريب العملي على توضيح المبادئ الأساسية لنظرية التقدير. علاوة على ذلك، في حالة التقدير استنادا إلى عينة واحدة، فإنه يظر مسائل فلسفية وسوء فهم محتمل في استخدام مقدر الإمكان الأعظم ومقدر دالة الإمكان.

تقرير المدار

  • انظر كذلك
  • *
  • مقدر، تحيز المقدر
  • نظرية المعلومات

علاوةً على ذلك، البيانات المقاسة من المحتمل أن تكون عرضة للضوضاء أو عدم اليقين، ومن خلال الاحتمالية الإحصائية يتم البحث عن الحلول المثلى لاستخراج قدر أكبر من المعلومات من البيانات قدر الإمكان.

مقدرون

  • هذا مسرد للمقدرون وطرق التقدير الأكثر شياعاً، والموضوعات المتعلقة بها:
  • مقدر الإمكان الأعظم
  • مقدر بايز
  • طريقة العزوم

و

في هذا الإطار، عند هذه النقطة، فإن هذان المقدران يظهران وكأنهما يعطين نفس الأداء.

ومع ذلك، فإن الفارق بينهما يصبح واضحا عند مقارنة التباينات.

ما رأيك في هذه المقالة؟

📝 هل في هذه المقالة خطأ؟

إذا وجدت معلومة تحتاج تصحيحاً أو إضافة، أو أردت حذف المقالة، أرسل لنا طلباً وسنراجعه.