اعتلاج مشترك

عدم السلبية

وفي هذا الصدد، الإنتروبيا المشتركة لمجموعة من المتغيرات العشوائية هي عدد غير سالب.

أقل من أو يساوي مجموع الانتروبيا الفردية

العلاقات مع قياسات الإنتروبي الأخرى

وفي هذا السياق، الإنتروبيا المشتركة لمجموعة من المتغيرات أقل من أو تساوي مجموع الأنتروبيا الفردية للمتغيرات في المجموعة. هذا مثال على الجمع الثانوي. هذا اللامساواة تعتبر مساواة إذا وفقط إذا كان و مستقلين إحصائيا.

تعريف

وعلى صعيد آخر، لأكثر من متغيرين عشوائيين هذا يتوسع إلى حيث هي قيم خاصة ، على التوالي ، هو احتمال حدوث هذه القيم معًا، و يعرف بأنه 0 إذا .

الخصائص

وفي هذا السياق، إنتروبي شانون المشتركة (بوحدة البتات) من متغيرين عشوائيين منفصلين و مع الصور و يعرف بأنه حيث و هي قيم خاصة و ، على التوالي، هو الاحتمال المشترك لحدوث هذه القيم معًا، و يعرف بأنه 0 إذا .

أكبر من الانتروبيا الفردية

وفي هذا الصدد، الإنتروبيا المشتركة لمجموعة من المتغيرات أكبر من أو تساوي الحد الأقصى لجميع الأنتروبيا الفردية للمتغيرات في المجموعة.

الانتروبيا التفاضلية المشتركة

وفي هذا السياق، التعريف أعلاه هو للمتغيرات العشوائية المنفصلة ولم يعد صالحًا في حالة المتغيرات العشوائية المستمرة. تسمى النسخة المستمرة من إنتروبيا المفصل المنفصل إنتروبيا المفاصل (أو المستمر) . لتكن و متغيرات عشوائية مستمرة ذات دالة كثافة احتمالية مشتركة . الانتروبيا المشتركة التفاضلية يعرف بأنه لأكثر من متغيرين عشوائيين متواصلين يعمم التعريف على: يتم أخذ جزء لا يتجزأ من دعم . من الممكن ألا يكون التكامل موجودًا وفي هذه الحالة نقول أن الإنتروبي التفاضلي غير محدد.

تنطبق قاعدة السلسلة التالية على متغيرين عشوائيين:

في حالة وجود أكثر من متغيرين عشوائيين يتم تعميم هذا على:

وفي السياق ذاته، كما في الحالة المنفصلة، يكون الانتروبيا التفاضلية المشتركة لمجموعة من المتغيرات العشوائية أصغر أو تساوي من مجموع الأنتروبيا للمتغيرات العشوائية الفردية:

ومن ناحية أخرى، يستعمل الإنتروبي التفاضلي المشترك كذلك في تعريف المعلومات المتبادلة بين المتغيرات العشوائية المستمرة:

يستخدم الانتروبي المشترك في تعريف الإنتروبي الشرطي

،

و كما أنها تستعمل في تعريف المعلومات المتبادلة

من جانب آخر، في نظرية المعلومات الكمومية، يتم تعميم الإنتروبيا المشتركة في الإنتروبيا الكمومية المشتركة.