چکیده

رگرسیون چندکی توسط Koenker و Bassett در سال 1978 معرفی شد. پس از آن، این روش به یک روش مهم و پرکاربرد برای مطالعه توزیع شرطی کامل متغیر پاسخ و هم­چنین ابزاری مهم در آمار کاربردی، تبدیل شده است.

انتخاب متغیر در مدل­بندی آماری مدل­هایی که دارای بعد بالا هستند، مسئله­ اساسی است. پرکاربردترین روش­ها، روش­های انتخاب گام­به­گام است. این روش­ها از نظر محاسباتی پرهزینه هستند و هم­چنین خطای تصادفی در فرایند انتخاب متغیر را در نظر نمی­گیرند.

در این پایان نامه روی جنبه­ انتخاب متغیر رگرسیون چندکی تاوانیده، متمرکز می­شویم. تحت شرایطی، خواص پیش­گویی رگرسیون چندکی SCAD تاوانیده و adaptive-LASSO تاوانیده را نشان می­دهیم.

 

کلید واژه : انتخاب متغیر، خواص پیشگویی، رگرسیون چندکی، adaptive-LASSO، SCAD

 

فهرست مطالب

 

 

عنوان                                                                                                                      صفحه

 

فصل اول: مقدمه

1-1- تاریخچه……………………………………………………………………………………………………………………… 3

 

فصل دوم: رگرسیون چندکی

2-1- چندک­ها و چندک­های شرطی ………………………………………………………………………………… 7

2-2- از رگرسیون میانگین تا رگرسیون چندکی ………………………………………………………………. 8

2-3- از برآورد کمترین مربعات تا check function ……………………………………………………….. 12

2-4- از توزیع­های شرطی چوله تا رگرسیون چندکی …………………………………………………….. 13

2-5- روش برآوردیابی ………………………………………………………………………………………………………… 15

 

فصل سوم: رگرسیون چندکی خطی تاوانیده

3-1- رگرسیون چندکی خطی تاوانیده …………………………………………………………………………….. 18

3-2- رگرسیون چندکی خطی تاوانیده با تاوانLASSO…………………………………………………. 20

3-3- رگرسیون چندکی خطی تاوانیده با تاوان LASSO انطباقی ………………………………… 20

 

3-4- رگرسیون چندکی خطی تاوانیده با تاوان SCAD …………………………………………………. 21

 

 

عنوان                                                                                                                      صفحه

 

فصل چهارم: خواص مجانبی

4-1- خواص مجانبی ………………………………………………………………………………………………………….. 24

4-2- خواص مجانبی تاوان SCAD ………………………………………………………………………………….. 25

4-3- خواص مجانبی تاوان LASSO انطباقی ………………………………………………………………….. 26

4-4- خطاهای تصادفی مستقل و ناهم­توزیع ……………………………………………………………………. 27

 

فصل پنجم: مثال کاربردی

مثال ……………………………………………………………………………………………………………………………………….. 30

 

فهرست منابع ومآخذ ……………………………………………………………………………………………………………… 35

 

پیوست

پیوست 1 ………………………………………………………………………………………………………………………………. 40

پیوست 2 ………………………………………………………………………………………………………………………………. 49

پیوست 3 ………………………………………………………………………………………………………………………………. 54

پیوست 4 ………………………………………………………………………………………………………………………………. 55

 

فهرست جدول ها

 

 

عنوان                                                                                                                      صفحه

 

جدول-1: نتایج شبیه­سازی برای سه روش مورد نظر با 1=λ و 1=  و 10000=n…………… 31

جدول-2: نتایج شبیه­سازی برای سه روش مورد نظر با 1=λ و 3=  و 10000=n…………… 32

جدول-3: نتایج شبیه­سازی برای سه روش موردنظر با 8=λ و 1=  و 10000=n…………….. 32

جدول-4: نتایج شبیه­سازی برای سه روش موردنظر با 8=λ و 3=  و 10000=n…………….. 33

جدول-5: نتایج شبیه­سازی برای سه روش موردنظر با 20=λ و 1=  و 10000=n………….. 33

جدول-6: نتایج شبیه­سازی برای سه روش موردنظر با 20=λ و 3=  و 10000=n………….. 34

 

 

 

فهرست نمودارها

 

 

عنوان                                                                                                                      صفحه

 

نمودار1:  459 داده مربوط به حقوق استادان آمار آمریکا به عنوان تابعی از

سال­های استادی، به همراه نمودار رگرسیونی درجه دوم برازش داده شده …………………………. 10

نمودار 2:  459 داده مربوط به حقوق استادان آمار آمریکا به عنوان تابعی از

سال­های استادی، به همراه سه نمودار رگرسیونی چندکی…………………………………………………….. 11

نمودار 3: وزن در برابر سن 4011 دختر آمریکایی………………………………………………………………… 13

نمودار4:  وزن در برابر سن 4011 دختر آمریکایی به همراه هفت نمودار

رگرسیونی چندکی………………………………………………………………………………………………………………………. 14