अनुचित रैखिक मॉडल कब मजबूत रूप से सुंदर हो जाते हैं?

प्रशन:

क्या अनुचित रैखिक मॉडल व्यवहार में उपयोग किए जाते हैं या वे वैज्ञानिक पत्रिकाओं में समय-समय पर वर्णित किसी प्रकार की जिज्ञासा हैं? यदि हां, तो वे किन क्षेत्रों में उपयोग किए जाते हैं?
क्या ऐसे मॉडल के अन्य उदाहरण हैं?
अंत में, मानक त्रुटियां, $p$ -values, $R^2$ ऐसे मॉडलों के लिए ओएलएस से लिया गया आदि सही होना चाहिए, या उन्हें किसी तरह सही किया जाना चाहिए?

पृष्ठभूमि: साहित्य में समय-समय पर अनुचित रैखिक मॉडल का वर्णन किया जाता है। सामान्य तौर पर, ऐसे मॉडल के रूप में वर्णित किया जा सकता है

y = a + b \sum_{i} w_{i} x_{i} + ε

$y = a + b \sum_i w_i x_i + \varepsilon$

क्या उन्हें प्रतिगमन से अलग बनाता है $w_j$ मॉडल में अनुमानित गुणांक नहीं हैं , लेकिन वे वजन हैं जो हैं

प्रत्येक चर के लिए बराबर $w_i = 1$ ( इकाई भारित प्रतिगमन ),
सहसंबंधों के आधार पर $w_i = \rho(y, x_i)$ (दाना एंड डावेस, 2004),
बेतरतीब ढंग से चुना गया (डावेस, 1979),
$-1$ नकारात्मक रूप से संबंधित चर के लिए $y$ , $1$ सकारात्मक रूप से संबंधित चर के लिए $y$ (वेनर, 1976)।

इसके अलावा कुछ प्रकार की सुविधा स्केलिंग का उपयोग करना आम है, जैसे कि चर को परिवर्तित करना $Z$ -scores। तो, इस तरह के मॉडल को रेखीय प्रतिगमन को सरल बनाने के लिए सरल बनाया जा सकता है

y = a + b v + ε

$y = a + b v + \varepsilon$

कहाँ पे $v = \sum w_i x$ , और बस ओएलएस प्रतिगमन का उपयोग करके अनुमान लगाया जा सकता है।

संदर्भ:
डॉव, रॉबिन एम। (1979)। निर्णय लेने में अनुचित रैखिक मॉडल की मजबूत सुंदरता । अमेरिकी मनोवैज्ञानिक, 34, 571-582।

ग्रेफ, ए। (2015)। समान रूप से भारित भविष्यवक्ताओं का उपयोग करके पूर्वानुमानों में सुधार करना । जर्नल ऑफ बिजनेस रिसर्च, 68 (8), 1792-1799।

वेनर, हॉवर्ड (1976)। रैखिक मॉडल में गुणांक का अनुमान लगाना: यह कोई बात नहीं बनाता है । मनोवैज्ञानिक बुलेटिन 83 (2), 213।

दाना, जे और डावेस, आरएम (2004)। सामाजिक विज्ञान भविष्यवाणियों के लिए प्रतिगमन के लिए सरल विकल्पों की श्रेष्ठता । जर्नल ऑफ एजुकेशनल एंड बिहेवियरल स्टैटिस्टिक्स, 29 (3), 317-331।

— टिम
स्रोत

किस अर्थ में इन मॉडलों से प्राप्त आंकड़े "गलत" होंगे?

— whuber

जब

w_{i}

$w_i$ s पूर्व-निर्दिष्ट और हैं

b

$b$ अनुमान है, यह सिर्फ पूर्वानुमानों पर किए गए डेटा में कमी है - विभिन्न रूपों में सामान्य रूप से (उदाहरण के लिए ग्लासगो कोमा स्केल और चार्लसन सह-रुग्णता सूचकांक) देखें - जो सामान्य एसआरएस ढांचे में प्रवेश की वैधता को प्रभावित नहीं करेगा। कब

y

$y$ निर्धारित करने के लिए प्रयोग किया जाता है

w_{i}

$w_i$ एस, मानक त्रुटियों और सी। मुझे लगता है कि आशावादी दिशा में होगा।

— Scortchi - को पुनः स्थापित मोनिका

यह एक सूचित टिप्पणी नहीं थी - कागज अभी भी मेरे "पढ़ने के लिए" ढेर पर हैं। मुझे बस आश्चर्य हुआ: - "क्यों 'अनुचित'?"। एक भविष्यवक्ता के लिए अन्य चर का रैखिक संयोजन होना असामान्य नहीं है - कई मापों का एक औसत, एक प्रमुख घटक स्कोर, एक अन्य प्रतिगमन से एक भविष्यवाणी, एक तेजी से सुचारू समय श्रृंखला से स्तर, या एक अच्छी तरह से स्थापित मूल्य की गणना। या तदर्थ सूचकांक। प्रतिक्रिया के भार से वज़न का आकलन नहीं करना, छोटे नमूनों के आकार के साथ अति-फिटिंग से बचने में मदद करता है।

— Scortchi - को पुनः स्थापित मोनिका

जैसे बेदहु (2000), "एक साधारण कोमोबायिटी स्केल डायलिसिस रोगियों में नैदानिक परिणामों और लागतों की भविष्यवाणी करता है" एम। जे। मेड।, 108 , 8 मॉडल समीकरण का एक ही रूप है जहाँ तुम्हारा है

x_{i}

$x_i$ s को डायबिटीज, लिम्फोमा, और सी।, और; के लिए संकेतक चर के रूप में परिभाषित किया गया है

w_{i}

$w_i$ s पूर्व-निर्दिष्ट हैं। मुझे लगता है कि मैं जो कह रहा हूं वह यह है कि "अनुचित" और "उचित" प्रतिगमन मॉडल के बीच का अंतर ईश्वर प्रदत्त सेट की धारणा पर टिका हुआ है

x_{i}

$x_i$ एस, जिनमें से प्रत्येक के लिए एक "उचित" मॉडल एक गुणांक का अनुमान लगाता है।

— Scortchi - को पुनः स्थापित मोनिका

कब

w_{i} = ρ (y, x_{i})

$w_i = \rho(y, x_i)$ , & अगर

ρ

$\rho$ अनुमान लगाया गया था कि एक ही डेटा से मॉडल फिट होता है, वह मछली का एक अलग केतली होगा।

— Scortchi - को पुनः स्थापित मोनिका

वास्तव में, यह मुझे लगता है कि यह ग्रहण किए गए सहसंयोजक संरचनाओं का एक वर्गीकरण है। दूसरे शब्दों में, यह एक प्रकार का बायेसियन पूर्व मॉडलिंग है।

सामान्य एमएलआर प्रक्रिया पर मजबूती के कारण यह लाभ होता है क्योंकि मापदंडों की संख्या ( $\downarrow$ df) कम हो जाता है, और संवर्धित लोप चर चर , OVB के कारण अशुद्धि का परिचय देता है । OVB की वजह से ढलान चपटी है, $|\hat\beta|<|\beta|$ , निर्धारण का गुणांक कम हो गया है $\hat{R}^2<R^2$ ।

मेरा व्यक्तिगत अनुभव यह है कि बायेसियन दृष्टिकोण से बेहतर बेहतर मॉडलिंग का उपयोग करना है; परिवर्तन मापदंडों, अन्य मानदंडों का उपयोग करें, और / या nonlinear तरीकों का उपयोग करें। यही है, एक बार समस्या के भौतिकी और तरीकों का ठीक से पता लगाया जाता है और समन्वित किया जाता है, एफ आँकड़े, दृढ़ संकल्प के गुणांक, आदि में गिरावट के बजाय सुधार होता है।

— कार्ल
स्रोत