أنتروبيا متقاطعة

أنتروبيا متقاطعة

معلومات عامة

يدرسه	نظرية المعلومات
تعريف الصيغة	${\displaystyle H(p,q)=-\int _{X}p(x)\ln q(x)\,\mathrm {d} x}$
الرموز في الصيغة	${\displaystyle H}$ : أنتروبيا متقاطعة ${\displaystyle p}$ : دالة الكثافة الاحتمالية ${\displaystyle q}$ : دالة الكثافة الاحتمالية ${\displaystyle X}$ : فضاء احتمالي

نظرية المعلومات
اعتلاج اعتلاج تفاضلي ‏ اعتلاج شرطي اعتلاج مشترك معلومات متبادلة Conditional mutual information تباعد كولباك وليبلير Entropy rate إسراف Limiting density of discrete points ترميز خاصية تصحيح الخطأ كشف وتصحيح أخطاء
Asymptotic equipartition property Rate–distortion theory
Shannon's source coding theorem سعة القناة مبرهنة ترميز القناة ذات الضجيج نظرية شانون هارتلي

الأنتروبيا المتقاطعة أو التقاطعية^[1] في نظرية المعلومات بين توزيعين احتماليين ${\displaystyle p}$ و ${\displaystyle q}$ على نفس المجموعة الأساسية من الأحداث يقيس متوسط عدد البتات اللازمة لتحديد حدث مستمد من المجموعة إذا حُسن نظام التشفير المستخدم للمجموعة لتوزيع احتمالي مقدر ${\displaystyle q}$ بدلا من التوزيع الحقيقي ${\displaystyle p}$ .