اِسپایک اَند اِسلب (Spike-and-Slab Prior) چیست و چرا در انتخاب متغیر مهم است؟
در بسیاری از مسائل رگرسیونی، با تعداد زیادی متغیر توضیحی مواجه هستیم؛
اما واقعیت این است که فقط بخشی از آنها واقعاً بر پاسخ اثر دارند.
اگر همه متغیرها را وارد مدل کنیم:
* تفسیر دشوار میشود
* خطر بیشبرازش افزایش مییابد
* و نتیجه ناپایدار خواهد بود
روشهای کلاسیک مانند آزمون فرض یا Lasso معمولاً یک تصمیم «سخت» میگیرند:
یا متغیر در مدل هست یا نیست. اما عدمقطعیت این تصمیم بهصورت صریح گزارش نمیشود.
ایدهی اصلی Spike-and-Slab دقیقاً از همینجا شکل میگیرد.
در این رویکرد بیزی، «حضور یا عدم حضور یک متغیر» خود بهعنوان یک متغیر تصادفی مدلسازی میشود.
بهجای آنکه از قبل مشخص کنیم کدام متغیر مهم است، این تصمیم به دادهها واگذار میشود.
برای هر متغیر، یک سازوکار روشن/خاموش در نظر گرفته میشود:
* اگر روشن باشد، متغیر اجازه دارد اثر واقعی بر پاسخ داشته باشد
* اگر خاموش باشد، اثر آن به سمت صفر فشرده میشود
نام Spike-and-Slab از شکل پیشین ضرایب میآید:
* Spike: توزیعی بسیار متمرکز حول صفر که نماینده عدم اثر است
* Slab: توزیعی پهن با واریانس بزرگ که امکان اثرگذاری واقعی را فراهم میکند
مزیت کلیدی این رویکرد آن است که انتخاب متغیر بهصورت احتمالاتی و تدریجی انجام میشود، نه بهصورت یک تصمیم قطعی.
در نتیجه، بهجای آنکه صرفاً گفته شود یک متغیر در مدل حضور دارد یا خیر، میتوان احتمال حضور آن در مدل را گزارش کرد.
نتیجه چنین رویکردی، مدلی محافظهکارانهتر، تفسیرپذیرتر و پایدارتر است.
Spike-and-Slab تنها زمانی اثر یک متغیر را میپذیرد که شواهد دادهای واقعاً قوی باشد.
برای مخاطب آشنا به مفاهیم آماری احتمالا این سؤال شکل میگیرد، pvalue هم دقیقا همینکار را میکند، ولی در جواب باید گفت، اصولا pvalue براساس یک آزمون فرض شکل میگیرد که خود متکی به فرضیات زیادی است و عدم تحقق آن، به معنای کم اعتباری pvalue است. و البته مسائلی از جمله همخطی متغیرها هم به شدت روی مقدار pvalue اثر گذار هستند.
مفهوم عدم قطعیت یک مفهوم اساسی برای تببین احتمال است. ترکیب اسپایک اند اسلب با مدلهای بیزی به خوبی میتواند این مفهوم را به روشنی در فرایند انتخاب متغیر، گزارش کند.
