تحلیلی بر مساله‌ انتخاب متغیرهای کمکی در مدل گاوسی با استفاده از ماکسیمم احتمال پسین و رهیافت‌های فراوانی‌گرا و بیزی

مساله‌ی انتخاب مناسب‌ترین مدل جهت برازش بر روی داده‌ها همواره چالش برانگیز بوده است. روش ماکسیمم احتمال پسین از جمله روش‌های انتخاب مدل است که در هر دو رهیافت فراوانی‌گرا و بیزی کاربرد دارد. به‌علاوه، مطلوبیت مدل نیز یکی از ابزارهای مورد استفاده برای سنجش عملکرد روش‌های انتخاب مدل است. در این مقاله، روش ماکسیمم احتمال پسین برای مدل گاوسی استاندارد بیزی مورد مطالعه قرار گرفته و عملکرد آن با حالت فراوانی‌گرا مقایسه می‌شود. همچنین، یک صورت جبری برای برآورد مطلوبیت مدل ارائه خواهد شد. در ادامه، مطالعه‌ی شبیه‌سازی روی مدل گاوسی عملکرد بهتر رهیافت بیزی را هم از دیدگاه مطلوبیت و هم با بررسی میانگین توان‌های دوم خطای مدل ( mse) تایید می‌کند. با این وجود، هر دو رهیافت با افزایش اندازه‌ی نمونه، کمتر در معرض بیش‌برازش قرار می‌گیرند. همچنین با افزایش ضریب همبستگی میان متغیرهای کمکی، mse در هر دو رهیافت افزایش یافته حال آن‌که تمایل به انتخاب مدل با تعداد متغیر کمتر، افزایش می‌یابد. مطالعه بر روی داده‌های واقعی نشان می‌دهد که در هر دو رهیافت با افزایش اندازه‌ی نمونه، mse مدل‌های انتخاب شده، کاهش می‌یابد.

an analysis on covariates selection problem for gaussian model by maximum a posteriori criterion using frequentist and bayesian approaches

choosing the most suitable fitted model on data is one of the common challenges in statistical modeling. maximum a posteriori (map) criterion is a method used in both frequentist and bayesian approaches. additionally, the utility of the model is used as a tool to compare the performances of methods. in this paper, the map method is applied for the gaussian model and its performance is compared to that of frequentist approach. also, an analytical form of utility estimation is proposed. besides, using simulation studies, it is shown that the gaussian model has better performance, based on both utility and mean of squared errors (mse) criteria, when it is used by the bayesian approach. however, both frequentist and bayesian approaches avoid over-fitting by increasing the sample size. also, by increasing correlation among covariates, mse increases, while the tendency of choosing fewer covariates is raised. eventually, the study on a real dataset is shown that in both frequentist and bayesian approaches, mse of selected models decreases when the size of sample increases.