تداخل خطي (إحصاء)

  هذه المقالة عن تداخل خطي، في الإحصاء. لمعانٍ أخرى، طالع تداخل خطي (جبر خطي).

التداخل الخطي (بالإنجليزية: Collinearity)‏ وتعرف أيضا بالتداخل الخطي المتعدد (Multicollinearity) في الإحصاء والنمذجة الإحصائية (خصوصا في نماذج الانحدار) هي خاصية تكون فيها متغيرات مستقلة قابلة للكتابة، عبر توليفة خطية، بدلالة متغيرات مستقلة أخرى.

غالبا ما يكون اختبار تجانس إشارتي معامل ارتباط المتغير المستقل مع التابع مع إشارة معامل النموذج المقدر أسهل طريقة للكشف عن وجود تداخل خطي ضمن نماذج الانحدار.

يعتبر التداخل الخطي حالة غير مرغوب فيها بالنسبة للمتغيرات المفسرة بحكم أنه يشكل نوعا من تكرار المعلومة مما يعني أن المتغيرات المتداخلة خطيا تفسر نفس الظاهرة ويستحسن تقليل عددها بسحب متغيرات من قائمة المتغيرات المفسرة. بعبارة أخرى، تكون المتغيرات المتداخلة تؤثر سلبيا على بعضها البعض (أي تزعج بعضها البعض إحصائيا)، داخل النموذج مما يستوجب تبني إستراتيجية لإقصاء بعضها من النموذج.

التداخل الخطي هو خاصية أو ظاهرة مرتبطة بالبيانات والمتغيرات وليس بالنموذج الإحصائي في حد ذاته.

العلاقة بين الارتباط والتداخل الخطي

• التداخل الخطي بين متغيرين أو مجموعة من المتغيرات يعني بالضرورة أنها مرتبطة إحصائيا.
• بالمقابل، الارتباط الإحصائي لا يعني بالضرورة وجود تداخل خطي.

تأثير التداخل الخطي على النماذج الإحصائية

في نماذج الانحدار الخطي، يؤدي وجود التداخل الخطي بين المتغيرات المفسرة إلى تقويض نجاعة النمذجة، خصوصا على المستويات التالية:

• تكبير تباينات معاملات النموذج، مما يعسر التصديق على قيمها ومغزاها الإحصائي.
• إمكانية ظهور مغزى إحصائي ضعيف للمعاملات (بقيم احتمالية p-value ضعيفة مما يؤكد فرضية انعدام معاملات الانحدار) رغم وجود علاقة ارتباط بين المتغير المستقل والمتغير التابع، وهو ما قد يدفع الباحث إلى إقصاء متغير غير ذي مغزى ظاهريا عن طريق الخطأ.
• صعوبة تأويل المعاملات والتأثير الهامشي لتغير المتغير المستقل على قيمة المتغير التابع، إضافة إلى ظهور إشارات غير منطقية لبعض المعاملات تخالف المعارف المتوفرة في مجال الدراسة.
• عدم استقرار النموذج وحساسيته المفرطة تجاه إضافة أو حذف أفراد إحصائيين من العينة المدروسة.

تكمن خطورة التداخل الخطي في كونه يشكل عامل ضعف كامن للنموذج الإحصائي، فهو لا يؤثر على مؤشرات جودة أخرى (معامل التحديد أو نسبة خطأ التوقعات مثلا).

تعريف

توجد العديد من التعريفات النظرية لمفهوم التداخل الخطي. أبسط تعريف، وهو الأكثر استخداما على المستوى العملي، ينص على اعتبار عتبة مقبولة لمعامل الارتباط بين متغيرين مستقلين (مثلا 0.8 أو 0.7)، ويتم الحسم في الإبقاء على المتغيرات أو حذفها عبر تحليل مصفوفة الارتباط من منظور هاته العتبة. هذه التقنية قد تؤدي إلى قرارات خاطئة بحكم أن ارتباطا مرتفعا بين متغيرين مفسرين لا يعني بالضرورة وجود تداخل خطي، مما يفرض تبني تعريفات وتقنيات للكشف أكثر رصانة من المنظور الإحصائي.

باعتبار نموذج انحدار لكتابة متغير تابع $Y$ بدلالة $p$ متغير مستقل $X=(X_{1},X_{2},...,X_{p})$: ${\widehat {Y}}={\widehat {X}}\beta +\varepsilon$ ، انطلاقا من عينة مكونة من $n$ فرد إحصائي.

• ${\widehat {X}}={\begin{pmatrix}1&x_{1}^{1}&...&x_{1}^{p}\\1&...&x_{i}^{j}&...\\1&x_{n}^{1}&...&x_{n}^{p}\end{pmatrix}}$ مصفوفة $n\times (p+1)$ لقيم $X$ الملاحظة.
• ${\widehat {Y}}=(y_{1},y_{2},...,y_{n})^{t}$منقولة متجهة قيم $Y$ الملاحظة.
• $\beta$ و$\varepsilon$، على التوالي، منقولتا متجهتي المعاملات المقدرة والأخطاء الهامشية للنموذج.

للتبسيط، يفترض أن المتغيرات موسطة ومختزلة، حتى تكون مصفوفة التغاير مطابقة لمصفوفة الارتباط.

نعتبر $r$ منقولة متجهة معاملات الارتباط بين $X_{j}$ و$Y$.

التداخل الخطي التام

طريقة المربعات الصغرى في تقدير المعاملات $\beta$ تفترض أن مصفوفة الارتباط $R$ (مصفوفة معاملات الارتباط $(p+1)\times (p+1)$) قابلة للعكس، أي أن رتبتها تساوي $p+1$ (أي لها $p+1$ قيمة ذاتية موجبة قطعا):

$\beta ={\frac {1}{n}}R^{-1}{\widehat {X}}^{t}{\widehat {Y}}=R^{-1}r$.

حالة التداخل الخطي التام هي التي تكون فيها $R$ غير قابلة للعكس أي: $Rank(X^{t}X)<p+1$ أو قيمة واحدة أو أكثر من قيمها الذاتية منعدمة.

التداخل الخطي الحاد

حالة التداخل الخطي الحاد تكون إذا كان محدد مصفوفة التغاير قريبا من $det(X^{t}X)\approx 0$ وهو ما يعني بأن معكوسة مصفوفة التغاير تضم قيما جد مرتفعة، ونفس الأمر بالنسبة لمصفوفة تغاير القيم المقدرة لمعاملات النموذج ${\widehat {\Omega _{\widehat {\beta }}}}={\widehat {\sigma }}_{\varepsilon }^{2}(X^{t}X)^{-1}$. بالتالي تتخذ إحصائية اختبار ستيودنت $t_{{\widehat {\beta }}_{j}}={\frac {{\widehat {\beta }}_{j}}{{\widehat {\sigma }}_{{\widehat {\beta }}_{j}}}}$ لاختبار المغزى الإحصائي للمعاملات قيما ضعيفة مما يدفع إلى إقصاء المتغير الموافق $X_{j}$ من النموذج.

طرق الكشف عن التداخل الخطي

الطرق التالية تفترض القيام بتطبيق أولي لنموذج انحدار خطي، ويمكن أن تؤدي إلى تطبيق تكراري للنمذجة إلى غاية تحييد التداخلات الخطية.

قاعدة كلاين

وهي قاعدة اعتباطية (ليست باختبار إحصائي) تقضي بوجود تداخل خطي لمتغيرين $X_{j_{1}}$ و$X_{j_{2}}$ إذا كان مربع معامل ارتباطهما أكبر من معامل تحديد النموذج $r_{j_{1},j_{2}}^{2}\gtrsim R^{2}$.

عامل تضخم التباين

قاعدة كلاين تسمح فقط بترشيح المتغيرات التي يمكن أن تكون مفسرة للتداخل الخطي بشكل ثنائي. من أجل تقييم عام للتداخل الخطي، من الضروري نمذجة كل متغير مستقل $X_{j}$ بدلالة ال ($p-1$) متغيرات الأخرى واعتبار معامل التحديد الموافق $R_{j}^{2}$.

يعرف عامل تضخم التباين بالصيغة التالية: $v_{j}={\frac {1}{1-R_{j}^{2}}}$ وترجع تسميته بمعامل التضخم لأن قيمته تدخل في حساب الانحراف المعياري لمقدرات معاملات النموذج: $V({\widehat {\beta }}_{j})={\frac {\sigma _{\varepsilon }^{2}}{n}}v_{j}$ وبالتالي كلما كبرت قيمة $v_{j}$، تزايد عدم استقرار مقدر المعامل $\beta _{j}$ مما يقلل حظوظه في أن ينجح في اختبار المغزى الإحصائي لعدم مساواته 0.

المقدار $1-R_{j}^{2}$ يعرف بمستوى تحمل التداخل الخطي (Tolerance).

يتم تعريف عتبة للإقرار بمسؤولية $X_{j}$ في التسبب في حالة تداخل خطي، العتبات المتعارف عليها يمكن أن تساوي بالنسبة لعامل التضخم $v_{j}$ 4 أو 5 أو 10 (عامل تضخم 4 يوافق مستوى تحمل 0.25).

عمليا، حساب $p$ نموذج انحدار خطي لكل متغير مستقل بدلالة المتغيرات المفسرة الأخرى قد يكون مرهقا. يمكن البرهنة على أن المصفوفة العكسية لمصفوفة الارتباط يكون قطرها مشكلا من القيم $v_{j}$: $v_{j}=(X^{t}X)_{(j,j)}^{-1}$.

اختبار تجانس الإشارات

يمكن الكشف عن التداخل الخطي عبر مقارنة إشارة معامل ارتباط $X_{j}$ والتابع $Y$ (بعد التأكد من مغزاها الإحصائي) مع إشارة معامل النموذج المقدر ${\widehat {\beta }}_{j}$.

إذا كانت $sgn(r_{Y,X_{j}})\not \equiv sgn({\widehat {\beta }}_{j})$ فذلك يعني أن المتغير $X_{j}$ يقدم «تفسيرا» متناقضا للمتغير التابع وهو ما يرشحه بقوة لكي يكون مسؤولا عن تداخل خطي.

اختبار فارار وغلاوبر

اختبار فارار وغلاوبر (Farrar & Glauber)، الذي نشر سنة 1967، يمكن من اختبار وجود التداخل الخطي بطريقة شاملة، ويفترض أن يتم تطبيقه كشكل من التصديق النهائي على «سلامة» النموذج بعد استيفاء الاختبارات السابقة. الفرضية المنعدمة المختبرة هي:

• $H_{0}$: استقلالية المتغيرات المفسرة (أو تعامدها بالمعنى الجبري).

إحصائية الاختبار هي: $S_{FG}=-(n-1-{\frac {1}{6}}(2p+5))$ وهي موزعة وفق توزيع مربع خي ذي ${\frac {p(p-1)}{2}}$ درجات حرية: $S_{FG}\backsim \chi _{\frac {p(p-1)}{2}}^{2}$.