लॉजिस्टिक रिग्रेशन - मल्टीकोलिनरिटी चिंता / नुकसान

Question

लॉजिस्टिक रिग्रेशन में, क्या आपको बहुसंस्कृति के बारे में चिंतित होने की आवश्यकता है क्योंकि आप सीधे ओएलएस रिग्रेशन में होंगे?

उदाहरण के लिए, एक लॉजिस्टिक रिग्रेशन के साथ, जहां मल्टीकोलिनरिटी मौजूद है, क्या आपको बीटा गुणांक से इंट्रेंस लेने के साथ सतर्क (ओएलएस रिग्रेशन में) होना चाहिए?

ओएलएस प्रतिगमन के लिए उच्च बहुकोणीयता के लिए एक "फिक्स" रिज रिग्रेशन है, क्या लॉजिक रिग्रेशन के लिए ऐसा कुछ है? इसके अलावा, चर छोड़ने या चर संयोजन।

लॉजिस्टिक रिग्रेशन में मल्टीकोलिनरिटी के प्रभावों को कम करने के लिए कौन से दृष्टिकोण उचित हैं? क्या वे अनिवार्य रूप से ओएलएस के समान हैं?

(नोट: यह किसी डिज़ाइन किए गए प्रयोग के उद्देश्य से नहीं है)

Answer 1

मल्टीकोलिनरिटी से संबंधित सभी समान सिद्धांत लॉजिस्टिक रिग्रेशन पर लागू होते हैं जैसा कि वे ओएलएस में करते हैं। बहु निदान का आकलन करने वाले एक ही निदान का उपयोग किया जा सकता है (उदाहरण के लिए वीआईएफ, स्थिति संख्या, सहायक प्रतिगमन।), और एक ही आयाम में कमी तकनीकों का उपयोग किया जा सकता है (जैसे प्रमुख घटकों के विश्लेषण के माध्यम से चर को मिलाकर)।

Chl का यह उत्तर आपको दंडित लॉजिस्टिक मॉडल (साथ ही इन प्रकार के दंडित प्रतिगमन प्रक्रियाओं पर एक अच्छी चर्चा) के लिए कुछ संसाधनों और आर पैकेजों तक ले जाएगा। लेकिन मल्टीकोलिनरिटी के लिए "समाधान" के बारे में आपकी कुछ टिप्पणियां मेरे लिए थोड़ा विवादास्पद हैं। यदि आप केवल उन चर के लिए रिश्तों का अनुमान लगाने के बारे में परवाह करते हैं जो इन "समाधानों" से मेल नहीं खाते हैं, तो ठीक हो सकता है, लेकिन अगर आपकी रुचि इन तकनीकों के साथ मेल खाने वाले चर के गुणांक का अनुमान लगाने में आपकी समस्या का समाधान नहीं करती है। यद्यपि मल्टीकोलिनरिटी की समस्या तकनीकी है कि आपके भविष्यवक्ता चरों के मैट्रिक्स को उल्टा नहीं किया जा सकता है, लेकिन इसमें एक तार्किक एनालॉग है कि आपके भविष्यवक्ता स्वतंत्र नहीं हैं, और उनके प्रभावों की विशिष्ट पहचान नहीं की जा सकती है।

Comments

(+1) हां, लॉजिस्टिक रिग्रेशन (या अधिक सामान्यतः GLMs) के कुछ पेनलिज्ड वर्जन मौजूद हैं, वहां कुछ संदर्भ देखें : ysts.stackexchange.com/questions/4272/… ।

— chl

@chl, धन्यवाद। मैंने आपके पिछले उत्तर से लिंक करने के लिए अद्यतन किया है।

— एंडी डब्ल्यू

Thx भी। यह आपकी पहले से ही उत्कृष्ट प्रतिक्रिया पर एक टिप्पणी थी।

— chl