مبدأ الطاقة الحرة

مبدأ الطاقة الحرة( free energy principle)هو إطار نظري يقترح أن الدماغ يقلل من المفاجأة أو عدم اليقين من خلال إجراء تنبؤات تعتمد على نماذج داخلية و تحديثها باستخدام المدخلات الحسية . ويسلط الضوء على هدف الدماغ المتمثل في مواءمة نموذجه الداخلي والعالم الخارجي لتعزيز دقة التنبؤ . يدمج هذا المبدأ الاستدلال البايزي مع الاستدلال النشط ، حيث يتم توجيه الأفعال من خلال التنبؤات وتقوم التغذية الراجعة الحسية بتنقيحها. و بالتالي لها تأثيرات واسعة النطاق على فهم وظائف المخ والإدراك و العمل . [1]

ملخص

عدل

في الفيزياء الحيوية والعلوم المعرفية ، مبدأ الطاقة الحرة هو مبدأ رياضي يصف حسابا رسميًا للقدرات التمثيلية للأنظمة الفيزيائية: أي، و بمعنى بسيط: لماذا تبدو الأشياء الموجودة وكأنها تتبع خصائص الأنظمة التي ترتبط بها. [2]

يثبت أن ديناميكيات الأنظمة الفيزيائية تقلل من كمية تعرف باسم المفاجأة(surprisal) (وهي الاحتمالية اللوغاريتمية السلبية لبعض النتائج)؛ أو على نحو مكافئ، الحد الأعلى المتغير لها، والذي يسمى الطاقة الحرة . يتم استخدام المبدأ بشكل خاص في المناهج البايزية لوظائف المخ ، ولكن أيضًا في بعض المناهج الخاصة بالذكاء الاصطناعي ؛ وهو مرتبط رسميًا بالطرق البايزية المتغيرة وقد قدمه في الأصل كارل فريستون كتفسير لحلقات الإدراك والفعل المجسدة في علم الأعصاب . [3]

يقوم مبدأ الطاقة الحرة بنمذجة سلوك الأنظمة التي تختلف عن نظام آخر (على سبيل المثال، بيئة التضمين)، ولكنها مقترنة به، حيث تُعرف درجات الحرية التي تنفذ الواجهة بين النظامين بإسم بطانية ماركوفMarkov) blanket) . بشكل أكثر رسمية، يقول مبدأ الطاقة الحرة أنه إذا كان للنظام "تقسيم معين" (أي إلى جزيئات، مع بطانيات ماركوف الخاصة بها)، فإن مجموعات فرعية من هذا النظام سوف تتبع البنية الإحصائية لمجموعات فرعية أخرى (والتي تعرف باسم الحالات أو المسارات الداخلية والخارجية للنظام).

يعتمد مبدأ الطاقة الحرة على الفكرة البايزية للدماغ باعتباره " محرك استدلال ". فبموجب مبدأ الطاقة الحرة، تسعى الأنظمة إلى مسارات أقل إثارة للدهشة ، أو على نحو مكافئ، تقلل من الفارق بين التنبؤات القائمة على نموذجها للعالم وإحساسها والإدراك المرتبط بها. فيتم قياس هذا الاختلاف من خلال الطاقة الحرة المتغيرة ويتم التقليل منه عن طريق التصحيح المستمر لنموذج العالم للنظام، أو عن طريق جعل العالم أكثر تشابهًا بتنبؤات النظام. ومن خلال تغيير العالم بشكل نشط لجعله أقرب إلى الحالة المتوقعة، يمكن للأنظمة أيضًا تقليل الطاقة الحرة للنظام. يفترض فريستون أن هذا هو مبدأ كل التفاعلات البيولوجية. [4] ويعتقد فريستون أيضًا أن مبدأه ينطبق على الاضطرابات العقلية وكذلك على الذكاء الاصطناعي . لقد أظهرت تطبيقات الذكاء الاصطناعي القائمة على مبدأ الاستدلال النشط مزايا مقارنة بالطرق الأخرى. [4]

مبدأ الطاقة الحرة هو مبدأ رياضي في فيزياء المعلومات: يشبه إلى حد كبير مبدأ الحد الأقصى للإنتروبيا أو مبدأ أقل فعل، وهو صحيح على أسس رياضية. لذلك، إن محاولة دحض مبدأ الطاقة الحرة هي خطأ تصنيفي، يشبه محاولة دحض حساب التفاضل والتكامل من خلال إجراء ملاحظات تجريبية. (لا يمكن إبطال نظرية رياضية بهذه الطريقة؛ وبدلاً من ذلك، سيحتاج المرء إلى استنباط تناقض رسمي من النظرية.) في مقابلة أجريت عام 2018، أوضح فريستون ما يستلزمه عدم خضوع مبدأ الطاقة الحرة للدحض : "أعتقد أنه من المفيد إجراء تمييز أساسي في هذه المرحلة - يمكننا الاستئناف إليه لاحقًا. التمييز بين نظرية الحالة ونظرية العملية؛ أي الفرق بين المبدأ المعياري الذي قد تتوافق معه الأشياء أو لا تتوافق معه، ونظرية العملية أو الفرضية حول كيفية تحقيق هذا المبدأ. بموجب هذا التمييز، يقف مبدأ الطاقة الحرة في تمييز صارخ عن أشياء مثل الترميز التنبئي و فرضية الدماغ البايزي. وذلك لأن مبدأ الطاقة الحرة هو ما هو عليه - مبدأ . مثل مبدأ هاملتون للعمل الثابت ، لا يمكن دحضه. في الواقع، لا يوجد الكثير مما يمكنك فعله به، ما لم تسأل عما إذا كانت الأنظمة القابلة للقياس تتوافق مع المبدأ. من ناحية أخرى، فإن الفرضيات التي تفيد بأن الدماغ يؤدي بعض أشكال "إن الاستدلالات البايزية أو الترميز التنبئي هي ما هي عليه - فرضيات. وقد تكون هذه الفرضيات مدعومة أو غير مدعومة بأدلة تجريبية." [5] وهناك العديد من الأمثلة على هذه الفرضيات المدعومة بأدلة تجريبية. [6]

الخلفية

عدل

إن فكرة أن الأنظمة البيولوجية المنظمة ذاتيًا - مثل الخلية أو الدماغ - يمكن فهمها على أنها تقلل من الطاقة الحرة المتغيرة تستند إلى عمل هلمهولتز في الاستدلال اللاواعي [7] و العلاجات اللاحقة في علم النفس [8] و التعلم الآلي. [9] الطاقة الحرة المتغيرة هي دالة للملاحظات وكثافة الاحتمالية على أسبابها الخفية. يتم تعريف هذه الكثافة المتغيرة فيما يتعلق بنموذج احتمالي يولد ملاحظات متوقعة من أسباب مفترضة. في هذا الإطار، توفر الطاقة الحرة تقريبًا لدليل النموذج البايزي . [10] لذلك، يمكن اعتبار تقليله بمثابة عملية استدلال بايزية. فعندما يقوم نظام ما بإجراء ملاحظات نشطة لتقليل الطاقة الحرة، فإنه يقوم ضمناً بالاستدلال النشط و يعظم أدلة نموذجه للعالم.

ومع ذلك، فإن الطاقة الحرة تشكل أيضًا حدًا أعلى لنتائج المعلومات الذاتية ، حيث يكون متوسط المفاجأة على المدى الطويل هو تغير الإنتروبية(entropy). و هذا يعني أنه إذا عمل النظام على تقليل الطاقة الحرة، فإنه سيضع ضمنياً أعلى حد لإنتروبيا النتائج - أو الحالات الحسية - التي تقوم بأخذ عينات منها. [11] [12]

العلاقة مع النظريات الأخرى

عدل

الاستدلال النشط وثيق الصلة بنظرية المنظم الجيدgood) regulator theorem) [13] و الحسابات ذات الصلة بالتنظيم الذاتي، [14] [15] مثل التجميع الذاتي، و تكوين الأنماط، و التكوين الذاتي [16] و التكوين العملي. [17] فهو بذلك يتناول الموضوعات التي تمت مناقشتها في علم التحكم الآلي ، و سينيرجيتيك(synergetics)[18] و الإدراك المجسد . نظرًا لأنه يمكن التعبير عن الطاقة الحرة باعتبارها الطاقة المتوقعة للملاحظات تحت كثافة التباين مطروحًا منها إنتروبيتها، فإنها ترتبط أيضًا بمبدأ الحد الأقصى للإنتروبيا. [19] و أخيرًا، نظرًا لأن متوسط الزمن للطاقة هو الفعل، فإن مبدأ الحد الأدنى للطاقة الحرة المتغيرة هو مبدأ الحد الأدنى للفعل . لقد طبق الاستدلال النشط الذي يسمح بثبات المقياس على نظريات و مجالات أخرى أيضًا. على سبيل المثال، تم تطبيقه على علم الاجتماع، [20] [21] [22] [23] واللغويات والاتصال، [24] [25] [26] وعلم العلامات، [27] [28] و علم الأوبئة [29] و غيرها.

الطاقة الحرة السلبية تعادل رسميًا الحد الأدنى للأدلة ، والذي يستخدم عادةً في التعلم الآلي لتدريب النماذج التوليدية ، مثل المشفرات التلقائية المتغيرة .

الفعل و الإدراك

عدل
 
الشكل 1: توضح هذه المخططات تقسيم الحالات إلى حالات داخلية   والحالات الخارجية (المخفية، الكامنة)   التي يتم فصلها بواسطة بطانية ماركوف - والتي تتألف من حالات حسية   والدول النشطة   . تُظهر اللوحة العلوية نفس التبعيات تمامًا ولكن مع إعادة ترتيبها بحيث ترتبط الحالات الداخلية بالحالات داخل الخلايا، بينما تصبح الحالات الحسية هي الحالات السطحية للغشاء الخلوي الذي يغطي الحالات النشطة (على سبيل المثال، خيوط الأكتين في الهيكل الخلوي). تُظهر اللوحة السفلية هذا التقسيم كما سيتم تطبيقه على الفعل والإدراك في الدماغ؛ حيث تعمل الحالات النشطة والداخلية على تقليل الطاقة الحرة الوظيفية للحالات الحسية. إن التنظيم الذاتي اللاحق للحالات الداخلية يتوافق بعد ذلك مع الإدراك، في حين يربط الفعل حالات الدماغ بالحالات الخارجية.

يطبق الاستدلال النشط تقنيات الاستدلال البايزي التقريبي لاستنتاج أسباب البيانات الحسية من نموذج "توليدي" لكيفية حدوث هذه البيانات ثم استخدام هذه الاستدلالات لتوجيه العمل. تتميز قاعدة بايز بوصف الانعكاس الأمثل احتماليًا لمثل هذا النموذج السببي، ولكن تطبيقها عادة ما يكون صعبًا حسابيًا، مما يؤدي إلى استخدام أساليب تقريبية بالمقابل. في الاستدلال النشط، فإن الفئة الرائدة من هذه الأساليب التقريبية هي الأساليب المتغيرة ، لأسباب عملية ونظرية: عملية، لأنها غالبًا ما تؤدي إلى إجراءات استدلال بسيطة؛ ونظرية، لأنها مرتبطة بالمبادئ الفيزيائية الأساسية، كما تمت مناقشته أعلاه.

تعمل طرق التباين هذه على تقليل الحد الأعلى للتباعد بين الاستدلال الأمثل لبايز (أو " اللاحق ") وتقريبه وفقًا للطريقة. ويُعرف هذا الحد الأعلى بالطاقة الحرة ، وبالتالي يمكننا وصف الإدراك بأنه تقليل الطاقة الحرة فيما يتعلق بالمعلومات الحسية الواردة، والفعل بأنه تقليل نفس الطاقة الحرة فيما يتعلق بمعلومات الفعل الصادرة. إن هذا التحسين الثنائي الشامل هو سمة من سمات الاستدلال النشط، و مبدأ الطاقة الحرة هو الفرضية التي مفادها أن جميع الأنظمة التي تدرك و تتصرف يمكن وصفها بهذه الطريقة.

من أجل توضيح آليات الاستدلال النشط عبر مبدأ الطاقة الحرة، يجب تحديد نموذج توليدي، وهذا يتضمن عادةً مجموعة من وظائف كثافة الاحتمالية التي تميز معًا النموذج السببي. ومن بين هذه المواصفات ما يلي. تم تصميم النظام على أنه يسكن مساحة الدولة   ، بمعنى أن حالاتها تشكل نقاط هذا الفضاء. ثم يتم تقسيم مساحة الحالة إلى عوامل وفقًا لـ   ، أين   هي مساحة الحالات "الخارجية" التي "تختفي" عن الفاعل (بمعنى عدم إدراكها أو الوصول إليها بشكل مباشر)،   هي مساحة الحالات الحسية التي يدركها العامل مباشرة،   هي مساحة أفعال الوكيل الممكنة، و   هي مساحة من الحالات "الداخلية" الخاصة بالوكيل.

بالتوافق مع الشكل 1، لاحظ أنه في ما يلي   و   هي وظائف للزمن (المستمر)   . النموذج التوليدي هو تحديد لوظائف الكثافة التالية:

  • نموذج حسي،   ، غالبًا ما يتم كتابتها على هذا النحو   ، تحديد احتمالية البيانات الحسية المقدمة للحالات و الأفعال الخارجية؛
  • نموذج عشوائي للديناميكيات البيئية،   ، مكتوبة في كثير من الأحيان   ، التي تصف كيف يتوقع العامل أن تتطور الحالات الخارجية بمرور الوقت   ، بالنظر إلى تصرفات الوكيل؛
  • نموذج عمل  , مكتوبة   ، ووصف كيفية اعتماد أفعال الوكيل على حالاته الداخلية وبياناته الحسية؛ و
  • نموذج داخلي،  , مكتوبة   ، والتي تصف كيف تعتمد الحالات الداخلية للوكيل على بياناته الحسية.

تحدد وظائف الكثافة هذه عوامل " النموذج المشترك "، الذي يمثل المواصفات الكاملة للنموذج التوليدي، والذي يمكن كتابته على النحو التالي:

  .

ثم تحدد قاعدة بايز "الكثافة الخلفية"   ، و الذي يعبر عن اعتقاد مثالي احتماليًا بشأن الحالة الخارجية   بالنظر إلى الحالة السابقة و أفعال الوكيل و الإشارات الحسية و الحالات الداخلية. منذ الحوسبة   من الصعب حسابيًا حل هذه المشكلة، حيث يؤكد مبدأ الطاقة الحرة وجود "كثافة متغيرة"   ، أين   هو تقريب ل   . ومن ثم يتم تعريف الطاقة الحرة على أنها

 

و يحدد الفعل و الإدراك باعتبارهما مشكلة التحسين المشتركة

 

حيث الدول الداخلية   يتم استخدامها عادةً لترميز معلمات الكثافة "المتغيرة"   ومن ثم فإن "أفضل تخمين" للوكيل فيما يتعلق بالاعتقاد اللاحق   . لاحظ أن الطاقة الحرة هي أيضًا حد أعلى لمقياس المفاجأة الحسية ( الهامشية أو المتوسطة) للعامل، وبالتالي فإن تقليل الطاقة الحرة غالبًا ما يكون مدفوعًا بتقليل المفاجأة.

تقليل الطاقة المجانية

عدل

تقليل استهلاك الطاقة المجانية و التنظيم الذاتي

عدل

أُقترح تقليل الطاقة الحرة باعتبارها السمة المميزة للأنظمة ذاتية التنظيم عندما يتم صياغتها كأنظمة ديناميكية عشوائية. [30] تعتمد هذه الصيغة على بطانية ماركوف (تتكون من حالات الفعل و الحواس) التي تفصل بين الحالات الداخلية و الخارجية. فإذا كانت الحالات الداخلية والفعل تعمل على تقليل الطاقة الحرة، فإنها تضع حدًا أعلى على إنتروبيا الحالات. [30]

 

و يرجع ذلك إلى أن المتوسط الطويل الأمد للمفاجأة هو الإنتروبيا ـ وفقاً للافتراضات الإرجوديكية(ergodic). تقاوم هذه الحدود الميل الطبيعي إلى الفوضى - من النوع المرتبط بالقانون الثاني للديناميكا الحرارية ونظرية التقلب(fluctuation theorem) . و مع ذلك، فإن صياغة مبدأ موحد للعلوم الحيوية من حيث المفاهيم المستمدة من الفيزياء الإحصائية، مثل النظام الديناميكي العشوائي، و الحالة الثابتة غير المتوازنة، و الديناميكية، يفرض قيودًا كبيرة على الدراسة النظرية و التجريبية للأنظمة البيولوجية مع خطر إخفاء جميع الميزات التي تجعل الأنظمة البيولوجية أنواعًا مثيرة للاهتمام من الأنظمة ذاتية التنظيم. [31]

تقليل الطاقة الحرة و الاستدلال البايزي

عدل

يمكن صياغة جميع الاستدلالات البايزية من حيث تقليل الطاقة الحرة [32] </link> . عندما يتم تقليل الطاقة الحرة فيما يتعلق بالحالات الداخلية، يتم تقليل تباعد كولباك-ليبلر بين الكثافة المتغيرة والخلفية على الحالات المخفية. يتوافق هذا مع الاستدلال البايزي التقريبي - عندما يكون شكل الكثافة المتغيرة ثابتًا - واد الاستدلال البايزي الدقيق بخلاف ذلك. لذلك يوفر تقليل الطاقة الحرة وصفًا عامًا للاستدلال و الترشيح البايزي (على سبيل المثال، ترشيح كالمانKalman filtering ). يتم استخدامه أيضًا في اختيار النموذج البايزي، حيث يمكن العمل على تحلل الطاقة الحرة بشكل مفيد إلى التعقيد و الدقة:

 

توفر النماذج ذات الحد الأدنى من الطاقة الحرة شرحًا دقيقًا للبيانات، في ظل تكاليف التعقيد (راجع شفرة أوكام و المعالجات الأكثر رسمية للتكاليف الحسابية [33] ). هنا، التعقيد هو التباعد بين الكثافة المتغيرة والمعتقدات السابقة حول الحالات المخفية (أي درجات الحرية الفعالة المستخدمة لشرح البيانات).

تقليل الطاقة الحرة والديناميكا الحرارية

عدل

الطاقة الحرة المتغيرة هي دالة نظرية معلوماتية وهي مختلفة عن الطاقة الحرة الديناميكية الحرارية (هيلمهولتز). [34] ومع ذلك، فإن مصطلح التعقيد للطاقة الحرة المتغيرة يشترك في نفس النقطة الثابتة مثل طاقة هلمهولتز الحرة (تحت افتراض أن النظام مغلق ترموديناميكيًا ولكن ليس معزولًا). ويرجع ذلك إلى أن تعليق الاضطرابات الحسية (لفترة زمنية طويلة مناسبة) يؤدي إلى تقليل التعقيد (لأن الدقة يمكن إهمالها). في هذه المرحلة، يكون النظام في حالة توازن و تقلل الحالات الداخلية من طاقة هلمهولتز الحرة، وفقًا لمبدأ الحد الأدنى للطاقة. [35]

التقليل من الطاقة الحرة و نظرية المعلومات

عدل

إن تقليل الطاقة الحرة يعادل تعظيم المعلومات المتبادلة بين الحالات الحسية والحالات الداخلية التي تحدد كثافة التباين (لكثافة التباين الثابتة للإنتروبيا). يرتبط هذا بتقليل الطاقة المجانية إلى الحد الأدنى من التكرار. [11] [12]

تقليل الطاقة المجانية في علم الأعصاب

عدل

يوفر تقليل الطاقة الحرة طريقة مفيدة لصياغة نماذج معيارية (Bayes optimal) للاستدلال العصبي و التعلم في ظل عدم اليقين [36] وبالتالي فهو يشترك في فرضية الدماغ البايزية. [37] تعتمد العمليات العصبية التي يتم وصفها من خلال تقليل الطاقة الحرة على طبيعة الحالات المخفية:   والتي يمكن أن تشمل متغيرات تعتمد على الوقت، ومعلمات ثابتة للوقت ودقة (التباين العكسي أو درجة الحرارة) للتقلبات العشوائية. تتوافق عملية تقليل المتغيرات والمعلمات والدقة مع الاستدلال والتعلم وترميز عدم اليقين على التوالي.

الاستدلال الإدراكي و التصنيف

عدل

يقوم تقليل الطاقة الحرة بإضفاء الطابع الرسمي على مفهوم الاستدلال اللاواعي في الإدراك [7] [9] و يوفر نظرية معيارية (بيزية) للمعالجة العصبية. تعتمد نظرية العملية المرتبطة بديناميكيات الخلايا العصبية على تقليل الطاقة الحرة من خلال الانحدار التدريجي. يتوافق هذا مع الترشيح البايزي المعمم (حيث يشير ~ إلى متغير في إحداثيات الحركة المعممة و   هو عامل مصفوفة مشتقة): [38]

 

عادةً ما تكون النماذج التوليدية التي تحدد الطاقة الحرة غير خطية وتسلسلية (مثل التسلسلات الهرمية القشرية في الدماغ). تتضمن الحالات الخاصة للتصفية المعممة تصفية كالمان ، والتي تعادل رسميًا الترميز التنبئي( predictive coding[39] وهو استعارة شائعة لتمرير الرسائل في الدماغ. في ظل النماذج الهرمية، يتضمن الترميز التنبئي التبادل المتكرر لأخطاء التنبؤ الصاعدة (من أسفل إلى أعلى) والتنبؤات الهابطة (من أعلى إلى أسفل) [40] بما يتوافق مع تشريح وعلم وظائف الأعضاء الحسية [41] والأنظمة الحركية. [42]

التعلم الإدراكي و الذاكرة

عدل

في الترميز التنبئي، يؤدي تحسين معلمات النموذج من خلال الانحدار التدريجي على التكامل الزمني للطاقة الحرة (الفعل الحر) إلى تقليل اللدونة الترابطية أو اللدونة الهيبية و يرتبط باللدونة المشبكية في الدماغ.

الدقة الإدراكية و الانتباه والإبراز

عدل

يتوافق تحسين معلمات الدقة مع تحسين مكسب أخطاء التنبؤ (راجع مكسب كالمان). في التنفيذات العصبية المعقولة للترميز التنبئي، [40] يتوافق هذا مع تحسين قابلية إثارة الخلايا الهرمية السطحية وقد تم تفسيره من حيث اكتساب الانتباه. [43]

 
محاكاة النتائج التي تم التوصل إليها من مهمة الانتباه الانتقائي التي تم تنفيذها من خلال إعادة صياغة بايزية لـ SAIM بعنوان PE-SAIM في بيئة الكائنات المتعددة. تظهر الرسوم البيانية المسار الزمني لتنشيط FOA ووحدتي القالب في شبكة المعرفة.

وفيما يتعلق بالجدال حول من أعلى إلى أسفل مقابل من أسفل إلى أعلى، والذي تمت معالجته باعتباره مشكلة مفتوحة رئيسية تتعلق بالانتباه، فقد نجح نموذج حسابي في توضيح الطبيعة الدائرية للتفاعل بين الآليات من أعلى إلى أسفل ومن أسفل إلى أعلى. وباستخدام نموذج ناشئ راسخ للانتباه، وهو سايم( SAIM)، اقترح المؤلفون نموذجًا يسمى بي سايم(PE-SAIM)، والذي، على النقيض من الإصدار القياسي، يقترب من الانتباه الانتقائي من موقف من أعلى إلى أسفل. يأخذ النموذج في الاعتبار انتقال أخطاء التنبؤ إلى نفس المستوى أو مستوى أعلى، من أجل تقليل دالة الطاقة التي تشير إلى الفرق بين البيانات و سببها، أو بعبارة أخرى، بين النموذج التوليدي واللاحق. و لزيادة صحة النتائج، قاموا أيضًا بدمج المنافسة العصبية بين المحفزات في نموذجهم. الميزة البارزة لهذا النموذج هي إعادة صياغة دالة الطاقة الحرة فقط من حيث أخطاء التنبؤ أثناء أداء المهمة:

 

أين   هي دالة الطاقة الكلية للشبكات العصبية التي تستلزمها، و   هو خطأ التنبؤ بين النموذج التوليدي (السابق) والتغيير اللاحق بمرور الوقت. [44] يكشف مقارنة النموذجين عن تشابه ملحوظ بين نتائجهما الخاصة مع تسليط الضوء أيضًا على تناقض ملحوظ، حيث يركز النموذج في الإصدار القياسي من SAIM بشكل أساسي على الاتصالات المثيرة، بينما في PE-SAIM، يتم الاستفادة من الاتصالات المثبطة للتوصل إلى استنتاج. وقد ثبت أيضًا أن النموذج مناسب للتنبؤ ببيانات تخطيط كهربية الدماغ والتصوير بالرنين المغناطيسي الوظيفي المستمدة من التجارب البشرية بدقة عالية. على نفس المنوال، طبق يحيى وآخرون أيضًا مبدأ الطاقة الحرة لاقتراح نموذج حسابي لمطابقة القالب في الانتباه البصري الانتقائي الخفي الذي يعتمد في الغالب على SAIM. [45] وفقًا لهذه الدراسة، يتم الوصول إلى إجمالي الطاقة الحرة لكامل مساحة الحالة عن طريق إدخال إشارات من أعلى إلى أسفل في الشبكات العصبية الأصلية، وبالتالي نستنتج نظامًا ديناميكيًا يشتمل على خطأ التنبؤ بالتغذية الأمامية والخلفية.

الاستدلال النشط

عدل

عندما يتم تطبيق الانحدار المتدرج على الإجراء   يمكن فهم التحكم الحركي من حيث الأقواس الانعكاسية الكلاسيكية التي تشارك في التنبؤات الهابطة (القشرية الشوكية). وهذا يوفر صيغة تعمم حل نقطة التوازن - لمشكلة درجات الحريةthe( degrees of freedom problem) [46] - على مسارات الحركة.

الاستدلال النشط و التحكم الأمثل

عدل

يرتبط الاستدلال النشط بالتحكم الأمثل من خلال استبدال وظائف القيمة أو التكلفة بالاعتقادات السابقة حول انتقالات الحالة أو التدفق. [47] يستغل هذا الارتباط الوثيق بين الترشيح البايزي وحل معادلة بيلمان . ومع ذلك، فإن الاستدلال النشط يبدأ بـ (الأسبقيات) التدفق   التي تم تحديدها باستخدام مقياس   وناقل   وظائف القيمة لمساحة الحالة (راجع تحلل هلمهولتز ). هنا،   هي سعة التقلبات العشوائية والتكلفة هي   . الأسبقيات على التدفق   إحداث حالة سابقة على الحالات   هذا هو الحل لمعادلات كولموغوروف الأمامية المناسبة. [48] على النقيض من ذلك، يعمل التحكم الأمثل على تحسين التدفق، مع الأخذ في الاعتبار دالة التكلفة، على افتراض أن   (أي أن التدفق خالي من التجعيد أو يتمتع بتوازن تفصيلي). عادةً، يستلزم هذا حل معادلات كولموغوروف العكسية. [49]

الاستدلال النشط و نظرية القرار الأمثل (اللعبة)

عدل

يتم التعامل مع مشاكل القرار الأمثل (والتي عادة ما يتم صياغتها على أنها عمليات قرار ماركوف قابلة للملاحظة جزئيًا ) ضمن الاستدلال النشط عن طريق استيعاب وظائف المنفعة في المعتقدات السابقة. في هذا الإطار، فإن الدول التي تتمتع بمنفعة عالية (تكلفة منخفضة) هي الدول التي يتوقع الوكيل أن يشغلها. من خلال تجهيز النموذج التوليدي بحالات مخفية تعمل على نمذجة التحكم، فإن السياسات (تسلسلات التحكم) التي تقلل من الطاقة الحرة المتغيرة تؤدي إلى حالات فائدة عالية. [50]

في علم الأعصاب، يُعتقد أن منظمات الأعصاب مثل الدوبامين تعمل على الإبلاغ عن دقة أخطاء التنبؤ من خلال تعديل مكسب الخلايا الرئيسية التي تشفر خطأ التنبؤ. [51] فيرتبط هذا ارتباطًا وثيقًا بدور الدوبامين في الإبلاغ عن أخطاء التنبؤ في حد ذاتها [52] والحسابات الحسابية ذات الصلة - ولكنه يختلف رسميًا عن ذلك. [53]

الاستدلال النشط وعلم الأعصاب الإدراكي

عدل

تم استخدام الاستدلال النشط لمعالجة مجموعة من القضايا في علم الأعصاب الإدراكي ووظائف المخ والطب النفسي العصبي، بما في ذلك ملاحظة الفعل، [54] الخلايا العصبية المرآتيةmirror) neurons)، [55] حركات العين السريعة والبحث البصري، [56] [57] حركات العين، [58] النوم، [59] الأوهام، [60] الانتباه، [43] اختيار الفعل، [51] الوعي، [61] [62] الهستيريا [63] والذهان. [64] غالبًا ما تعتمد تفسيرات الفعل في الاستدلال النشط على فكرة أن الدماغ لديه "تنبؤات عنيدة" لا يمكنه تحديثها، مما يؤدي إلى أفعال تجعل هذه التنبؤات تتحقق. [65]

مراجع

عدل
  1. ^ Bruineberg، Jelle؛ Kiverstein، Julian؛ Rietveld، Erik (2018). "The anticipating brain is not a scientist: the free-energy principle from an ecological-enactive perspective". Synthese. ج. 195 ع. 6: 2417–2444. DOI:10.1007/s11229-016-1239-1. PMC:6438652. PMID:30996493.
  2. ^ Friston، Karl (2010). "The free-energy principle: a unified brain theory?". Nature Reviews Neuroscience. ج. 11 ع. 2: 127–138. DOI:10.1038/nrn2787. PMID:20068583. S2CID:5053247. اطلع عليه بتاريخ 2023-07-09.
  3. ^ Friston، Karl؛ Kilner، James؛ Harrison، Lee (2006). "A free energy principle for the brain" (PDF). Journal of Physiology-Paris. ج. 100 ع. 1–3: 70–87. DOI:10.1016/j.jphysparis.2006.10.001. PMID:17097864. S2CID:637885.
  4. ^ ا ب Shaun Raviv: The Genius Neuroscientist Who Might Hold the Key to True AI. In: Wired, 13. November 2018 نسخة محفوظة 2023-02-10 at Archive.is
  5. ^ Friston، Karl (2018). "Of woodlice and men: A Bayesian account of cognition, life and consciousness. An interview with Karl Friston (by Martin Fortier & Daniel Friedman)". ALIUS Bulletin. ج. 2: 17–43.
  6. ^ Friston، Karl (2022). Active Inference: The Free Energy Principle in Mind, Brain, and Behavior. MIT Press. ISBN:9780262045353.
  7. ^ ا ب Helmholtz, H. (1866/1962). Concerning the perceptions in general. In Treatise on physiological optics (J. Southall, Trans., 3rd ed., Vol. III). New York: Dover. Available at https://web.archive.org/web/20180320133752/http://poseidon.sunyopt.edu/BackusLab/Helmholtz/
  8. ^ Gregory، R. L. (8 يوليو 1980). "Perceptions as hypotheses". Philosophical Transactions of the Royal Society of London. B, Biological Sciences. ج. 290 ع. 1038: 181–197. Bibcode:1980RSPTB.290..181G. DOI:10.1098/rstb.1980.0090. JSTOR:2395424. PMID:6106237.
  9. ^ ا ب Dayan، Peter؛ Hinton، Geoffrey E.؛ Neal، Radford M.؛ Zemel، Richard S. (1995). "The Helmholtz Machine" (PDF). Neural Computation. ج. 7 ع. 5: 889–904. DOI:10.1162/neco.1995.7.5.889. hdl:21.11116/0000-0002-D6D3-E. PMID:7584891. S2CID:1890561.
  10. ^ Beal, M. J. (2003). Variational Algorithms for Approximate Bayesian Inference. Ph.D. Thesis, University College London.
  11. ^ ا ب Sakthivadivel، Dalton (2022). "Towards a Geometry and Analysis for Bayesian Mechanics". arXiv:2204.11900 [math-ph].
  12. ^ ا ب Ramstead، Maxwell؛ Sakthivadivel، Dalton؛ Heins، Conor؛ Koudahl، Magnus؛ Millidge، Beren؛ Da Costa، Lancelot؛ Klein، Brennan؛ Friston، Karl (2023). "On Bayesian mechanics: A physics of and by beliefs". Interface Focus. ج. 13 ع. 3. arXiv:2205.11543. DOI:10.1098/rsfs.2022.0029. PMC:10198254. PMID:37213925. S2CID:249017997.
  13. ^ Conant، Roger C.؛ Ross Ashby، W. (1970). "Every good regulator of a system must be a model of that system". International Journal of Systems Science. ج. 1 ع. 2: 89–97. DOI:10.1080/00207727008920220.
  14. ^ Kauffman, S. (1993). The Origins of Order: Self-Organization and Selection in Evolution. Oxford: Oxford University Press.
  15. ^ Nicolis, G., & Prigogine, I. (1977). Self-organization in non-equilibrium systems. New York: John Wiley.
  16. ^ Maturana, H. R., & Varela, F. (1980). Autopoiesis: the organization of the living. In V. F. Maturana HR (Ed.), Autopoiesis and Cognition. Dordrecht, Netherlands: Reidel.
  17. ^ Nikolić، Danko (2015). "Practopoiesis: Or how life fosters a mind". Journal of Theoretical Biology. ج. 373: 40–61. arXiv:1402.5332. Bibcode:2015JThBi.373...40N. DOI:10.1016/j.jtbi.2015.03.003. PMID:25791287. S2CID:12680941.
  18. ^ Haken, H. (1983). Synergetics: An introduction. Non-equilibrium phase transition and self-organisation in physics, chemistry and biology (3rd ed.). Berlin: Springer Verlag.
  19. ^ Jaynes، E. T. (1957). "Information Theory and Statistical Mechanics" (PDF). Physical Review. ج. 106 ع. 4: 620–630. Bibcode:1957PhRv..106..620J. DOI:10.1103/PhysRev.106.620. S2CID:17870175.
  20. ^ Veissière, Samuel P. L.; Constant, Axel; Ramstead, Maxwell J. D.; Friston, Karl J.; Kirmayer, Laurence J. (2020). "Thinking through other minds: A variational approach to cognition and culture". Behavioral and Brain Sciences (بالإنجليزية). 43: e90. DOI:10.1017/S0140525X19001213. ISSN:0140-525X. PMID:31142395. S2CID:169038428.
  21. ^ Ramstead, Maxwell J. D.; Constant, Axel; Badcock, Paul B.; Friston, Karl J. (1 Dec 2019). "Variational ecology and the physics of sentient systems". Physics of Life Reviews. Physics of Mind (بالإنجليزية). 31: 188–205. Bibcode:2019PhLRv..31..188R. DOI:10.1016/j.plrev.2018.12.002. ISSN:1571-0645. PMC:6941227. PMID:30655223.
  22. ^ Albarracin, Mahault; Demekas, Daphne; Ramstead, Maxwell J. D.; Heins, Conor (Apr 2022). "Epistemic Communities under Active Inference". Entropy (بالإنجليزية). 24 (4): 476. Bibcode:2022Entrp..24..476A. DOI:10.3390/e24040476. ISSN:1099-4300. PMC:9027706. PMID:35455140.
  23. ^ Albarracin، Mahault؛ Constant، Axel؛ Friston، Karl J.؛ Ramstead، Maxwell James D. (2021). "A Variational Approach to Scripts". Frontiers in Psychology. ج. 12: 585493. DOI:10.3389/fpsyg.2021.585493. ISSN:1664-1078. PMC:8329037. PMID:34354621.
  24. ^ Friston, Karl J.; Parr, Thomas; Yufik, Yan; Sajid, Noor; Price, Catherine J.; Holmes, Emma (1 Nov 2020). "Generative models, linguistic communication and active inference". Neuroscience & Biobehavioral Reviews (بالإنجليزية). 118: 42–64. DOI:10.1016/j.neubiorev.2020.07.005. ISSN:0149-7634. PMC:7758713. PMID:32687883.
  25. ^ Tison، Remi؛ Poirier، Pierre (2 أكتوبر 2021). "Communication as Socially Extended Active Inference: An Ecological Approach to Communicative Behavior". Ecological Psychology. ج. 33 ع. 3–4: 197–235. DOI:10.1080/10407413.2021.1965480. ISSN:1040-7413. S2CID:238703201.
  26. ^ Friston, Karl J.; Frith, Christopher D. (1 Jul 2015). "Active inference, communication and hermeneutics". Cortex. Special issue: Prediction in speech and language processing (بالإنجليزية). 68: 129–143. DOI:10.1016/j.cortex.2015.03.025. ISSN:0010-9452. PMC:4502445. PMID:25957007.
  27. ^ Kerusauskaite, Skaiste (1 Jun 2023). "Role of Culture in Meaning Making: Bridging Semiotic Cultural Psychology and Active Inference". Integrative Psychological and Behavioral Science (بالإنجليزية). 57 (2): 432–443. DOI:10.1007/s12124-022-09744-x. ISSN:1936-3567. PMID:36585542. S2CID:255366405.
  28. ^ García, Adolfo M.; Ibáñez, Agustín (14 Nov 2022). The Routledge Handbook of Semiosis and the Brain (بالإنجليزية). Taylor & Francis. ISBN:978-1-000-72877-4.
  29. ^ Bottemanne, Hugo; Friston, Karl J. (1 Dec 2021). "An active inference account of protective behaviours during the COVID-19 pandemic". Cognitive, Affective, & Behavioral Neuroscience (بالإنجليزية). 21 (6): 1117–1129. DOI:10.3758/s13415-021-00947-0. ISSN:1531-135X. PMC:8518276. PMID:34652601.
  30. ^ ا ب Crauel، Hans؛ Flandoli، Franco (1994). "Attractors for random dynamical systems". Probability Theory and Related Fields. ج. 100 ع. 3: 365–393. DOI:10.1007/BF01193705. S2CID:122609512.
  31. ^ Colombo، Matteo؛ Palacios، Patricia (2021). "Non-equilibrium thermodynamics and the free energy principle in biology". Biology & Philosophy. ج. 36 ع. 5. DOI:10.1007/s10539-021-09818-x. S2CID:235803361.
  32. ^ Roweis، Sam؛ Ghahramani، Zoubin (1999). "A Unifying Review of Linear Gaussian Models" (PDF). Neural Computation. ج. 11 ع. 2: 305–345. DOI:10.1162/089976699300016674. PMID:9950734. S2CID:2590898.
  33. ^ Ortega، Pedro A.؛ Braun، Daniel A. (2013). "Thermodynamics as a theory of decision-making with information-processing costs". Proceedings of the Royal Society A: Mathematical, Physical and Engineering Sciences. ج. 469 ع. 2153. arXiv:1204.6481. Bibcode:2013RSPSA.46920683O. DOI:10.1098/rspa.2012.0683. S2CID:28080508. مؤرشف من الأصل في 2013-06-15.
  34. ^ Evans، Denis J. (2003). "A non-equilibrium free energy theorem for deterministic systems" (PDF). Molecular Physics. ج. 101 ع. 10: 1551–1554. Bibcode:2003MolPh.101.1551E. DOI:10.1080/0026897031000085173. S2CID:15129000.
  35. ^ Jarzynski، C. (1997). "Nonequilibrium Equality for Free Energy Differences". Physical Review Letters. ج. 78 ع. 14: 2690–2693. arXiv:cond-mat/9610209. Bibcode:1997PhRvL..78.2690J. DOI:10.1103/PhysRevLett.78.2690. S2CID:16112025.
  36. ^ Friston، Karl (2010). "The free-energy principle: A unified brain theory?" (PDF). Nature Reviews Neuroscience. ج. 11 ع. 2: 127–138. DOI:10.1038/nrn2787. PMID:20068583. S2CID:5053247.
  37. ^ Knill، David C.؛ Pouget، Alexandre (2004). "The Bayesian brain: The role of uncertainty in neural coding and computation" (PDF). Trends in Neurosciences. ج. 27 ع. 12: 712–719. DOI:10.1016/j.tins.2004.10.007. PMID:15541511. S2CID:9870936. مؤرشف من الأصل (PDF) في 2016-03-04. اطلع عليه بتاريخ 2013-05-31.
  38. ^ Friston، Karl؛ Stephan، Klaas؛ Li، Baojuan؛ Daunizeau، Jean (2010). "Generalised Filtering". Mathematical Problems in Engineering. ج. 2010: 1–34. DOI:10.1155/2010/621670.
  39. ^ Knill، David C.؛ Pouget، Alexandre (2004). "The Bayesian brain: The role of uncertainty in neural coding and computation" (PDF). Trends in Neurosciences. ج. 27 ع. 12: 712–719. DOI:10.1016/j.tins.2004.10.007. PMID:15541511. S2CID:9870936.
  40. ^ ا ب Mumford، D. (1992). "On the computational architecture of the neocortex" (PDF). Biological Cybernetics. ج. 66 ع. 3: 241–251. DOI:10.1007/BF00198477. PMID:1540675. S2CID:14303625.
  41. ^ Bastos، Andre M.؛ Usrey، W. Martin؛ Adams، Rick A.؛ Mangun، George R.؛ Fries، Pascal؛ Friston، Karl J. (2012). "Canonical Microcircuits for Predictive Coding". Neuron. ج. 76 ع. 4: 695–711. DOI:10.1016/j.neuron.2012.10.038. PMC:3777738. PMID:23177956.
  42. ^ Adams، Rick A.؛ Shipp، Stewart؛ Friston، Karl J. (2013). "Predictions not commands: Active inference in the motor system". Brain Structure and Function. ج. 218 ع. 3: 611–643. DOI:10.1007/s00429-012-0475-5. PMC:3637647. PMID:23129312.
  43. ^ ا ب Friston، Karl J.؛ Feldman، Harriet (2010). "Attention, Uncertainty, and Free-Energy". Frontiers in Human Neuroscience. ج. 4: 215. DOI:10.3389/fnhum.2010.00215. PMC:3001758. PMID:21160551.
  44. ^ Abadi، Alireza Khatoon؛ Yahya، Keyvan؛ Amini، Massoud؛ Friston، Karl؛ Heinke، Dietmar (2019). "Excitatory versus inhibitory feedback in Bayesian formulations of scene construction". Journal of the Royal Society Interface. ج. 16 ع. 154. DOI:10.1098/rsif.2018.0344. PMC:6544897. PMID:31039693.
  45. ^ "12th Biannual Conference of the German Cognitive Science Society (KogWis 2014)". Cognitive Processing. ج. 15: 107. 2014. DOI:10.1007/s10339-013-0597-6. S2CID:10121398.
  46. ^ Feldman، Anatol G.؛ Levin، Mindy F. (1995). "The origin and use of positional frames of reference in motor control" (PDF). Behavioral and Brain Sciences. ج. 18 ع. 4: 723–744. DOI:10.1017/S0140525X0004070X. S2CID:145164477. مؤرشف من الأصل (PDF) في 2014-03-29. اطلع عليه بتاريخ 2013-05-31.
  47. ^ Friston، Karl (2011). "What is Optimal about Motor Control?" (PDF). Neuron. ج. 72 ع. 3: 488–498. DOI:10.1016/j.neuron.2011.10.018. PMID:22078508. S2CID:13912462.
  48. ^ Friston، Karl؛ Ao، Ping (2012). "Free Energy, Value, and Attractors". Computational and Mathematical Methods in Medicine. ج. 2012: 1–27. DOI:10.1155/2012/937860. PMC:3249597. PMID:22229042.
  49. ^ Kappen، H. J. (2005). "Path integrals and symmetry breaking for optimal control theory". Journal of Statistical Mechanics: Theory and Experiment. ج. 2005 ع. 11: P11011. arXiv:physics/0505066. Bibcode:2005JSMTE..11..011K. DOI:10.1088/1742-5468/2005/11/P11011. S2CID:87027.
  50. ^ Friston، Karl؛ Samothrakis، Spyridon؛ Montague، Read (2012). "Active inference and agency: Optimal control without cost functions". Biological Cybernetics. ج. 106 ع. 8–9: 523–541. DOI:10.1007/s00422-012-0512-8. hdl:10919/78836. PMID:22864468.
  51. ^ ا ب Friston، Karl J.؛ Shiner، Tamara؛ Fitzgerald، Thomas؛ Galea، Joseph M.؛ Adams، Rick؛ Brown، Harriet؛ Dolan، Raymond J.؛ Moran، Rosalyn؛ Stephan، Klaas Enno (2012). "Dopamine, Affordance and Active Inference". PLOS Computational Biology. ج. 8 ع. 1: e1002327. Bibcode:2012PLSCB...8E2327F. DOI:10.1371/journal.pcbi.1002327. PMC:3252266. PMID:22241972.
  52. ^ Fiorillo، Christopher D.؛ Tobler، Philippe N.؛ Schultz، Wolfram (2003). "Discrete Coding of Reward Probability and Uncertainty by Dopamine Neurons" (PDF). Science. ج. 299 ع. 5614: 1898–1902. Bibcode:2003Sci...299.1898F. DOI:10.1126/science.1077349. PMID:12649484. S2CID:2363255. مؤرشف من الأصل (PDF) في 2016-03-04. اطلع عليه بتاريخ 2013-05-31.
  53. ^ Frank، Michael J. (2005). "Dynamic Dopamine Modulation in the Basal Ganglia: A Neurocomputational Account of Cognitive Deficits in Medicated and Nonmedicated Parkinsonism" (PDF). Journal of Cognitive Neuroscience. ج. 17 ع. 1: 51–72. DOI:10.1162/0898929052880093. PMID:15701239. S2CID:7414727.
  54. ^ Friston، Karl؛ Mattout، Jérémie؛ Kilner، James (2011). "Action understanding and active inference" (PDF). Biological Cybernetics. ج. 104 ع. 1–2: 137–160. DOI:10.1007/s00422-011-0424-z. PMC:3491875. PMID:21327826.
  55. ^ Kilner، James M.؛ Friston، Karl J.؛ Frith، Chris D. (2007). "Predictive coding: An account of the mirror neuron system" (PDF). Cognitive Processing. ج. 8 ع. 3: 159–166. DOI:10.1007/s10339-007-0170-2. PMC:2649419. PMID:17429704.
  56. ^ Friston، Karl؛ Adams، Rick A.؛ Perrinet، Laurent؛ Breakspear، Michael (2012). "Perceptions as Hypotheses: Saccades as Experiments". Frontiers in Psychology. ج. 3: 151. DOI:10.3389/fpsyg.2012.00151. PMC:3361132. PMID:22654776.
  57. ^ Mirza، M. Berk؛ Adams، Rick A.؛ Mathys، Christoph؛ Friston، Karl J. (2018). "Human visual exploration reduces uncertainty about the sensed world". PLOS ONE. ج. 13 ع. 1: e0190429. Bibcode:2018PLoSO..1390429M. DOI:10.1371/journal.pone.0190429. PMC:5755757. PMID:29304087.
  58. ^ Perrinet، Laurent U.؛ Adams، Rick A.؛ Friston، Karl J. (2014). "Active inference, eye movements and oculomotor delays". Biological Cybernetics. ج. 108 ع. 6: 777–801. DOI:10.1007/s00422-014-0620-8. PMC:4250571. PMID:25128318.
  59. ^ Hobson، J.A.؛ Friston، K.J. (2012). "Waking and dreaming consciousness: Neurobiological and functional considerations". Progress in Neurobiology. ج. 98 ع. 1: 82–98. DOI:10.1016/j.pneurobio.2012.05.003. PMC:3389346. PMID:22609044.
  60. ^ Brown، Harriet؛ Friston، Karl J. (2012). "Free-Energy and Illusions: The Cornsweet Effect". Frontiers in Psychology. ج. 3: 43. DOI:10.3389/fpsyg.2012.00043. PMC:3289982. PMID:22393327.
  61. ^ Rudrauf، David؛ Bennequin، Daniel؛ Granic، Isabela؛ Landini، Gregory؛ Friston، Karl؛ Williford، Kenneth (7 سبتمبر 2017). "A mathematical model of embodied consciousness" (PDF). Journal of Theoretical Biology. ج. 428: 106–131. Bibcode:2017JThBi.428..106R. DOI:10.1016/j.jtbi.2017.05.032. PMID:28554611.
  62. ^ K, Williford; D, Bennequin; K, Friston; D, Rudrauf (17 Dec 2018). "The Projective Consciousness Model and Phenomenal Selfhood". Frontiers in Psychology (بالإنجليزية). 9: 2571. DOI:10.3389/fpsyg.2018.02571. PMC:6304424. PMID:30618988.
  63. ^ Edwards، M. J.؛ Adams، R. A.؛ Brown، H.؛ Parees، I.؛ Friston، K. J. (2012). "A Bayesian account of 'hysteria'" (PDF). Brain. ج. 135 ع. 11: 3495–3512. DOI:10.1093/brain/aws129. PMC:3501967. PMID:22641838.
  64. ^ Adams، Rick A.؛ Perrinet، Laurent U.؛ Friston، Karl (2012). "Smooth Pursuit and Visual Occlusion: Active Inference and Oculomotor Control in Schizophrenia". PLOS ONE. ج. 7 ع. 10: e47502. Bibcode:2012PLoSO...747502A. DOI:10.1371/journal.pone.0047502. PMC:3482214. PMID:23110076.
  65. ^ Yon, Daniel; Lange, Floris P. de; Press, Clare (1 Jan 2019). "The Predictive Brain as a Stubborn Scientist". Trends in Cognitive Sciences (بالإنجليزية). 23 (1): 6–8. DOI:10.1016/j.tics.2018.10.003. PMID:30429054. S2CID:53280000.

روابط خارجية

عدل