توزيع غاوسي غاما

في نظريات الاحتمال والإحصاء ، توزيع غاوسي-غاما Gaussian-gamma distribution هو عائلة ثنائية المتغير من أربعة متغيرات من التوزيعات الاحتمالية المستمرة. إنه اقتران سابق للتوزيع الطبيعي بمتوسط ودقة غير معروفين.

تعريف

بالنسبة لزوج من المتغيرات العشوائية ( X ، T ) ، افترض أن التوزيع الشرطي لـ X معطى T بواسطة

$X\mid T\sim N(\mu ,1/(\lambda T))\,\!,$

بمعنى أن التوزيع الشرطي هو توزيع احتمالي طبيعي بمتوسط $\mu$ و مصفوفة تغاير $\lambda T$ - بالتساوي مع التباين $1/(\lambda T).$

افترض أيضًا أن التوزيع الهامشي لـ T تم إعطاؤه بواسطة

$T\mid \alpha ,\beta \sim \operatorname {Gamma} (\alpha ,\beta ),$

حيث يعني هذا أن T لها توزيع غاما . هنا λ و α β هي معلمات لتوزيع المفصل.

ثم ( X ، T ) لها توزيع غاوسي غاما ، وهذا يُرمز إليه بـ

$(X,T)\sim \operatorname {NormalGamma} (\mu ,\lambda ,\alpha ,\beta ).$

خصائص

دالة كثافة الاحتمالية

دالة الكثافة الاحتمالية (د. ك.ا) أو (pdf) هي الدالة الممثلة لأي توزيع احتمالي عن طريق التكامل. وتكون دالة الكثافة الاحتمالية موجبة دائمًا، كما يكون تكاملها من ∞- إلى ∞+ مساويًا لواحد:

$\int _{-\infty }^{+\infty }f\left(x\right)dx=1$

يمكن وصف دالة الكثافة الاحتمالية بأنها تقويم لاستمرارية منسّج الذي يمثل التكرارات النسبية ضمن مجالات النتائج البيانية.

دالة الكثافة الاحتمالية المشتركة لـتوزيع غاوسي-غاما ( X ، T ) هي 

$$f(x,\tau \mid \mu ,\lambda ,\alpha ,\beta )={\frac {\beta ^{\alpha }{\sqrt {\lambda }}}{\Gamma (\alpha ){\sqrt {2\pi }}}}\,\tau ^{\alpha -{\frac {1}{2}}}\,e^{-\beta \tau }\exp \left(-{\frac {\lambda \tau (x-\mu )^{2}}{2}}\right)$$

التوزيعات الهامشية

عن طريق البناء ، والتوزيع الهامشي $\tau$ هو توزيع غاما والتوزيع الشرطي لـ $x$ منح $\tau$ هو توزيع غاوسي . التوزيع الهامشي لـ $x$ عبارة عن توزيع غير قياسي للطالب مكون من ثلاث معلمات مع معلمات $(\nu ,\mu ,\sigma ^{2})=(2\alpha ,\mu ,\beta /(\lambda \alpha ))$ . 

الأسرة الأسية

توزيع جاما العادي هو عائلة أسية من أربعة معلمات مع معلمات طبيعية $\alpha -1/2,-\beta -\lambda \mu ^{2}/2,\lambda \mu ,-\lambda /2$ والإحصاءات الطبيعية $\ln \tau ,\tau ,\tau x,\tau x^{2}$ . 

تحجيم

لو $(X,T)\sim \mathrm {NormalGamma} (\mu ,\lambda ,\alpha ,\beta ),$ ثم لأي $b>0,(bX,bT)$ يتم توزيعها على شكل  ${\rm {NormalGamma}}(b\mu ,\lambda /b^{3},\alpha ,\beta /b).$

الاحتمال البعدي للمعلمات

الاحتمال البعدي لحدث عشوائي معين هو الاحتمال الشرطي الذي يتم تعيينه بعد أخذ الأدلة الخاصة بذلك الحدث أو خلفية الحدث بنظر الاعتبار. وهكذا، فإن توزيع الاحتمال البعدي هو توزيع الاحتمال لمقدار غير معلوم، يعامل على أنه متغير عشوائي، مشروط بالأدلة التي تم الحصول عليها من تجربة أو مسح معين. «الخلف» أو «البعد»، في هذا السياق، يعني ما «بعد» مراعاة الأدلة ذات الصلة المتعلقة بالحالة المعينة الخاضعة للدراسة. على سبيل المثال، هناك احتمال («غير خلفي») لشخص يعثر على كنز مدفون إذا قام بحفر في بقعة عشوائية، واحتمال بعدي للعثور على كنز مدفون إذا قام بحفر في مكان يرن فيه كاشف المعادن لأنه قام على الدليل المأخوذ من الجهاز.

افترض أن x يتم توزيعه وفقًا لتوزيع طبيعي بمتوسط غير معروف $\mu$ والدقة $\tau$ .

$x\sim {\mathcal {N}}(\mu ,\tau ^{-1})$

وأن التوزيع المسبق على $\mu$ و $\tau$ و $(\mu ,\tau )$ ، لديها توزيع غاما عادي

$(\mu ,\tau )\sim {\text{NormalGamma}}(\mu _{0},\lambda _{0},\alpha _{0},\beta _{0}),$

التي ترضي الكثافة π

$\pi (\mu ,\tau )\propto \tau ^{\alpha _{0}-{\frac {1}{2}}}\,\exp[-\beta _{0}\tau ]\,\exp \left[-{\frac {\lambda _{0}\tau (\mu -\mu _{0})^{2}}{2}}\right].$

يفترض

$x_{1},\ldots ,x_{n}\mid \mu ,\tau \sim \operatorname {{i.}{i.}{d.}} \operatorname {N} \left(\mu ,\tau ^{-1}\right),$

$\mathbf {P} (\tau ,\mu \mid \mathbf {X} )\propto \mathbf {L} (\mathbf {X} \mid \tau ,\mu )\pi (\tau ,\mu ),$

أين $\mathbf {L}$ هو احتمال وجود المعلمات في ضوء البيانات.

نظرًا لأن البيانات هي iid ، فإن احتمال مجموعة البيانات بأكملها يساوي منتج احتمالات عينات البيانات الفردية:

$\mathbf {L} (\mathbf {X} \mid \tau ,\mu )=\prod _{i=1}^{n}\mathbf {L} (x_{i}\mid \tau ,\mu ).$

يمكن تبسيط هذا التعبير على النحو التالي:

${\begin{aligned}\mathbf {L} (\mathbf {X} \mid \tau ,\mu )&\propto \prod _{i=1}^{n}\tau ^{1/2}\exp \left[{\frac {-\tau }{2}}(x_{i}-\mu )^{2}\right]\\[5pt]&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}\right]\\[5pt]&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\sum _{i=1}^{n}(x_{i}-{\bar {x}}+{\bar {x}}-\mu )^{2}\right]\\[5pt]&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\sum _{i=1}^{n}\left((x_{i}-{\bar {x}})^{2}+({\bar {x}}-\mu )^{2}\right)\right]\\[5pt]&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\left(ns+n({\bar {x}}-\mu )^{2}\right)\right],\end{aligned}}$

أين ${\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}$ ، ومتوسط عينات البيانات ، و $s={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}$ ، تباين العينة.

التوزيع اللاحق للمعلمات يتناسب مع الأوقات السابقة الاحتمالية.

${\begin{aligned}\mathbf {P} (\tau ,\mu \mid \mathbf {X} )&\propto \mathbf {L} (\mathbf {X} \mid \tau ,\mu )\pi (\tau ,\mu )\\&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\left(ns+n({\bar {x}}-\mu )^{2}\right)\right]\tau ^{\alpha _{0}-{\frac {1}{2}}}\,\exp[{-\beta _{0}\tau }]\,\exp \left[-{\frac {\lambda _{0}\tau (\mu -\mu _{0})^{2}}{2}}\right]\\&\propto \tau ^{{\frac {n}{2}}+\alpha _{0}-{\frac {1}{2}}}\exp \left[-\tau \left({\frac {1}{2}}ns+\beta _{0}\right)\right]\exp \left[-{\frac {\tau }{2}}\left(\lambda _{0}(\mu -\mu _{0})^{2}+n({\bar {x}}-\mu )^{2}\right)\right]\end{aligned}}$

يتم تبسيط المصطلح الأسي الأخير بإكمال المربع.

${\begin{aligned}\lambda _{0}(\mu -\mu _{0})^{2}+n({\bar {x}}-\mu )^{2}&=\lambda _{0}\mu ^{2}-2\lambda _{0}\mu \mu _{0}+\lambda _{0}\mu _{0}^{2}+n\mu ^{2}-2n{\bar {x}}\mu +n{\bar {x}}^{2}\\&=(\lambda _{0}+n)\mu ^{2}-2(\lambda _{0}\mu _{0}+n{\bar {x}})\mu +\lambda _{0}\mu _{0}^{2}+n{\bar {x}}^{2}\\&=(\lambda _{0}+n)(\mu ^{2}-2{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\mu )+\lambda _{0}\mu _{0}^{2}+n{\bar {x}}^{2}\\&=(\lambda _{0}+n)\left(\mu -{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\right)^{2}+\lambda _{0}\mu _{0}^{2}+n{\bar {x}}^{2}-{\frac {\left(\lambda _{0}\mu _{0}+n{\bar {x}}\right)^{2}}{\lambda _{0}+n}}\\&=(\lambda _{0}+n)\left(\mu -{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\right)^{2}+{\frac {\lambda _{0}n({\bar {x}}-\mu _{0})^{2}}{\lambda _{0}+n}}\end{aligned}}$

عند إدخال هذا مرة أخرى في التعبير أعلاه ،

${\begin{aligned}\mathbf {P} (\tau ,\mu \mid \mathbf {X} )&\propto \tau ^{{\frac {n}{2}}+\alpha _{0}-{\frac {1}{2}}}\exp \left[-\tau \left({\frac {1}{2}}ns+\beta _{0}\right)\right]\exp \left[-{\frac {\tau }{2}}\left(\left(\lambda _{0}+n\right)\left(\mu -{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\right)^{2}+{\frac {\lambda _{0}n({\bar {x}}-\mu _{0})^{2}}{\lambda _{0}+n}}\right)\right]\\&\propto \tau ^{{\frac {n}{2}}+\alpha _{0}-{\frac {1}{2}}}\exp \left[-\tau \left({\frac {1}{2}}ns+\beta _{0}+{\frac {\lambda _{0}n({\bar {x}}-\mu _{0})^{2}}{2(\lambda _{0}+n)}}\right)\right]\exp \left[-{\frac {\tau }{2}}\left(\lambda _{0}+n\right)\left(\mu -{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\right)^{2}\right]\end{aligned}}$

هذا التعبير النهائي هو بالضبط نفس شكل التوزيع العادي غاما ، أي ،

$\mathbf {P} (\tau ,\mu \mid \mathbf {X} )={\text{NormalGamma}}\left({\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}},\lambda _{0}+n,\alpha _{0}+{\frac {n}{2}},\beta _{0}+{\frac {1}{2}}\left(ns+{\frac {\lambda _{0}n({\bar {x}}-\mu _{0})^{2}}{\lambda _{0}+n}}\right)\right)$

مراجع

• برناردو ، جي إم ؛ سميث ، AFM (1993) نظرية بايزي ، وايلي.(ردمك 0-471-49464-X)رقم ISBN 0-471-49464-X
• ديردن وآخرون. "Bayesian Q-Learning" ، وقائع المؤتمر الوطني الخامس عشر للذكاء الاصطناعي (AAAI-98) ، 26-30 يوليو ، 1998 ، ماديسون ، ويسكونسن ، الولايات المتحدة الأمريكية.

انظر أيضًا

• ضجيج أبيض
• توزيع بواسون
• توزيع احتمالي طبيعي
• دالة الكثافة الاحتمالية
• ‌ توزيع غاما