مطالعه رفتار برآوردگر انقباضي تحت يك قيد خطي در مدل رگرسيون تاوانيده

Performance Study of Shrinkage Estimator Under a Linear Constrain in Penalized Regression

معمولا در مسائل با بعد بالا، وقتي تعداد متغيرها بيشتر از تعداد مشاهدات است، برآوردگرهاي جريمه شده بر پايه روش‌هاي انقباضي از ديدگاه خطاي پيشگويي پاسخ، از كارايي بهتري نسبت به برآوردگر كمترين توان‌هاي دوم در برآورد ضرايب رگرسيوني برخوردار هستند. در اين برآوردگرها پارامتر تنظيم كننده يا انقباضي نقش اساسي در انتخاب متغير و برآورد پارامترها بازي مي‌كند. برآوردگر انقباضي بريج، برآوردگري است كه با تغيير پارامتر تنظيم كننده آن مي‌توان به برآوردگرهاي معروف ريج و لاسو دست يافت. در اين مقاله برآوردگر انقباضي بريج را، با اعمال يك قيد خطي روي بردار ضرايب رگرسيوني، به‌دست آورده سازگاري آن اثبات مي‌شود. به علاوه در قالب يك مطالعه شبيه‌سازي و مثال واقعي كارايي آن از ديدگاه ميانگين توان دوم خطا مورد ارزيابي قرار مي‌گيرد.

Often, in high dimensional problems, where the number of variables is large the number of observations, penalized estimators based on shrinkage methods have better efficiency than the OLS estimator from the prediction error viewpoint. In these estimators, the tuning or shrinkage parameter plays a deterministic role in variable selection. The bridge estimator is an estimator which simplifies to ridge or LASSO estimators varying the tuning parameter. In these paper, the shrinkage bridge estimator is derived under a linear constraint on regression coefficients and its consistency is proved. Furthermore, its efficiency is evaluated in a simulation study and a real example.