واریانس و آنتروپی معیارهایی متمایز هستند که معمولاً برای اندازه گیری عدم قطعیت متغیرهای تصادفی استفاده میشوند. در حالی که واریانس نشان میدهد که چگونه یک متغیر تصادفی بیشتراز حد انتظارش گسترش مییابد، معیارآنتروپی عدم قطعیت یک رویکرد اطلاعاتی را اندازه گیری میکند به عبارت دیگر میانگین مقدار اطلاع یک متغیر تصادفی را اندازه گیری میکند.
برای دو توزیع یکنواخت و نرمال واریانس نسبتی از آنتروپی توانی است. یافتن یک چنین رابطه یکنوا بین واریانس و انتروپی برای یک کلاس بزرگتر از این دو توزیع اهمیت و کاربرد زیادی در پردازش سیگنال، یادگیری ماشین، تئوری اطلاعات و احتمال و آمار دارد
برای کم کردن خطاهای برآوردگرها مورد استفاده قرار میگیرد و یک راهبردی را انتخاب میکند که به طور متوسط بیشترین یا تقریباً بزرگترین کاهش در آنتروپی توزیع مکان هدف داشته باشد و اثربخشی این روش با استفاده از شبیهسازیها با مدلهای سنجش کاوی امتحان میشوند. در این مقاله کران بالای واریانس برای توزیع های تک مدی که دم آنها سنگین تر از دم توزیع نمایی است به کمک آنتروپی توانی ایجاد می گردد