एक मल्टीवेरियेट लीनियर मॉडल को कई प्रतिगमन के रूप में कास्टिंग करना

Question

क्या मल्टीवेरियेट लीनियर रिग्रेशन मॉडल को मल्टीपल लीनियर रिग्रेशन के रूप में पूरी तरह से समकक्ष बनाया जा रहा है? मैं बस चल रहा की बात नहीं कर रहा हूँ अलग प्रतिगमन।$t$

मैंने इसे कुछ स्थानों पर पढ़ा है (बायेसियन डेटा एनालिसिस - गेलमैन एट अल।, और मल्टीवीरेट ओल्ड स्कूल - मार्डन) कि एक मल्टीवेरियेट लीनियर मॉडल को आसानी से मल्टीपल रिग्रेशन के रूप में पुन: संयोजित किया जा सकता है । हालांकि, न तो स्रोत इस पर विस्तार से बताता है। वे अनिवार्य रूप से सिर्फ इसका उल्लेख करते हैं, फिर मल्टीवेरेट मॉडल का उपयोग करना जारी रखते हैं। गणितीय रूप से, मैं पहले मल्टीवेरिएट संस्करण लिखूंगा,

जहां बोल्ड चर उनके नीचे उनके आकार के साथ मैट्रिसेस हैं। हमेशा की तरह,वाईडेटा है,एक्सडिजाइन मैट्रिक्स है,आरसामान्य रूप से वितरित अवशिष्ट हैं, औरबीवह है जिसके साथ हम संदर्भ बनाने में रुचि रखते हैं।

$$\underset{n \times t}{\mathbf{Y}} = \underset{n \times k}{\mathbf{X}} \hspace{2mm}\underset{k \times t}{\mathbf{B}} + \underset{n \times t}{\mathbf{R}},$$ $\mathbf{Y}$$\mathbf{X}$$\mathbf{R}$$\mathbf{B}$

परिचित बहु-रेखीय प्रतिगमन के रूप में इसे पुनः व्यवस्थित करने के लिए, एक बस चर को फिर से लिखता है:

$$\underset{nt \times 1}{\mathbf{y}} = \underset{nt \times nk}{\mathbf{D}} \hspace{2mm} \underset{nk \times 1}{\boldsymbol{\beta}} + \underset{nt \times 1}{\mathbf{r}},$$

जहां इस्तेमाल किया reparameterizations हैं , β = आर ओ डब्ल्यू ( बी ) , और डी = एक्स ⊗ मैं एन । r o w ( ) का अर्थ है कि मैट्रिक्स की पंक्तियों को एक लंबी वेक्टर में अंत करने के लिए व्यवस्थित किया गया है, और or क्रोनकर, या बाहरी, उत्पाद है।$\mathbf{y} = row(\mathbf{Y})$$\boldsymbol\beta = row(\mathbf{B})$$\mathbf{D} = \mathbf{X} \otimes \mathbf{I}_{n}$$row()$$\otimes$

तो, अगर यह इतना आसान है, तो मल्टीवेरेट मॉडल पर किताबें लिखने के लिए परेशान क्यों हैं, उनके लिए आंकड़ों का परीक्षण करें आदि? केवल सबसे पहले चर को बदलना और सामान्य अविभाज्य तकनीकों का उपयोग करना सबसे प्रभावी है। मुझे यकीन है कि एक अच्छा कारण है, मैं सिर्फ एक कठिन समय सोच रहा हूं, कम से कम एक रैखिक मॉडल के मामले में। क्या बहुभिन्नरूपी रैखिक मॉडल के साथ स्थितियां हैं और सामान्य रूप से यादृच्छिक त्रुटियों को वितरित किया जाता है जहां यह पुनर्संरचना लागू नहीं होती है, या आपके द्वारा किए जाने वाले विश्लेषण की संभावनाओं को सीमित कर सकता है?

सूत्रों का यह मैंने देखा है: मार्डन - मल्टीवेरेट स्टेटिस्टिक्स: ओल्ड स्कूल। खंड 5.3 - 5.5 देखें। पुस्तक मुफ्त में उपलब्ध है: http://istics.net/stat/

जेलमैन एट अल। - बायेसियन डेटा विश्लेषण। मेरे पास दूसरा संस्करण है, और इस संस्करण में Ch में एक छोटा पैराग्राफ है। 19 'बहुभिन्नरूपी प्रतिगमन मॉडल' शीर्षक: "समकक्ष अविभाज्य प्रतिगमन मॉडल"

मूल रूप से, क्या आप बहु रेखीय अविभाज्य प्रतिगमन मॉडल के साथ सब कुछ कर सकते हैं जो आप बहुभिन्नरूपी मॉडल के साथ कर सकते हैं? यदि ऐसा है, तो बहुभिन्नरूपी रैखिक मॉडल के लिए तरीके क्यों विकसित किए जाएं?

Bayesian दृष्टिकोण के बारे में क्या?

Comments

यह अच्छा सवाल है। हो सकता है कि आप एक संरचना के बजाय नींव के संदर्भ में अधिक पूछ सकते हैं।

— सुभाष सी। डावर

संरचना के बजाय नींव से आपका क्या मतलब है? क्या आप विस्तृत कर सकते हैं?

— बिल_ए

ध्यान दें कि मैंने अपनी पहली और स्नातकोत्तर डिग्री के हिस्से के रूप में केवल दो पेपर सीखे हैं, मुझे तकनीकी विवरणों में संवारना नहीं आता है। मैं समझता हूँ कि मल्टीवेरिएट विश्लेषण की कई रैखिक प्रतिगमन या बस रेखीय प्रतिगमन मॉडल के साथ तुलना करने पर अलग-अलग धारणाएं हैं। बहुभिन्नरूपी विश्लेषण के लिए धारणाएं भिन्न हैं अर्थात गणितीय अपेक्षा प्रबल है। कई रेखीय प्रतिगमन कुछ अन्य मान्यताओं को बनाता है जिसके परिणामस्वरूप विषमलैंगिकता होती है। यहां मेरा मतलब है कि संरचना आपके समीकरणों को संदर्भित करती है।

— सुभाष सी। डावर

आपको इसे शीर्षक या शुरुआत में स्पष्ट रूप से कहना चाहिए कि क्या आप बहुभिन्नरूपी (सामान्य) रैखिक मॉडल की बात कर रहे हैं या बायेसियन बहुभिन्नरूपी प्रतिगमन के बारे में ।

— ttnphns

ठीक है, तो .. यह मेरा दृष्टिकोण नहीं है , मैंने दो स्थानों को इंगित किया है जिन्हें मैंने देखा है। दृष्टिकोण इस मुद्दे की क्रूरता है। बहुभिन्नरूपी संस्करण और reparameterized univariate संस्करण के बीच क्या अंतर है?

— बिल_ए

Answer 1

मूल रूप से, क्या आप बहु रेखीय अविभाज्य प्रतिगमन मॉडल के साथ सब कुछ कर सकते हैं जो आप बहुभिन्नरूपी मॉडल के साथ कर सकते हैं?

मेरा मानना ​​है कि उत्तर नहीं है।

यदि आपका लक्ष्य या तो प्रभावों ( में मापदंडों ) का अनुमान लगाना है या मॉडल के आधार पर भविष्यवाणियां करना है, तो हाँ, दोनों के बीच किस मॉडल के निर्माण को अपनाने से कोई फर्क नहीं पड़ता।$\mathbf{B}$

हालांकि, विशेष रूप से शास्त्रीय महत्व परीक्षण करने के लिए सांख्यिकीय निष्कर्ष बनाने के लिए, बहुभिन्नरूपी सूत्रीकरण व्यावहारिक रूप से अपूरणीय लगता है। अधिक विशेष रूप से मुझे उदाहरण के रूप में मनोविज्ञान में विशिष्ट डेटा विश्लेषण का उपयोग करने दें। विषयों के डेटा के रूप में व्यक्त किए जाते हैं$n$

$$\underset{n \times t}{\mathbf{Y}} = \underset{n \times k}{\mathbf{X}} \hspace{2mm}\underset{k \times t}{\mathbf{B}} + \underset{n \times t}{\mathbf{R}},$$

जहाँ बीच के विषयों के व्याख्यात्मक चर (कारक या / और मात्रात्मक सहसंयोजक) को X में स्तंभ के रूप में कोडित किया जाता है जबकि t दोहराया-उपाय (या भीतर-विषय) कारक स्तरों को एक साथ चर या Y में स्तंभ के रूप में दर्शाया जाता है ।$k-1$$\mathbf{X}$$t$$\mathbf{Y}$

उपरोक्त सूत्रीकरण के साथ, किसी भी सामान्य रैखिक परिकल्पना को आसानी से व्यक्त किया जा सकता है

$$\mathbf{L} \mathbf{B} \mathbf{M} = \mathbf{C},$$

जहां , बीच-बीच में व्याख्यात्मक चर के बीच के वज़न से बना है, जबकि L में बार-बार के कारकों के स्तरों के बीच वज़न शामिल है, और C एक स्थिर मैट्रिक्स है, आमतौर पर 0 ।$\mathbf{L}$$\mathbf{L}$$\mathbf{C}$$\mathbf{0}$

बहुभिन्नरूपी प्रणाली की सुंदरता इसके दो प्रकार के चर के बीच, बीच और भीतर-विषय में निहित है। यह अलग है कि बहुभिन्नरूपी रूपरेखा के तहत तीन प्रकार के महत्व परीक्षण के लिए आसान सूत्रीकरण की अनुमति देता है: शास्त्रीय बहुभिन्नरूपी परीक्षण, दोहराया-उपाय बहुभिन्नरूपी परीक्षण, और दोहराया-उपाय एकतरफा परीक्षण। इसके अलावा, गोलाकार उल्लंघन और इसी सुधार के तरीकों (ग्रीनहाउस-गीजर और Huynh-Feldt) के लिए Mauchly परीक्षण भी बहुभिन्नरूपी प्रणाली में एकतरफा परीक्षण के लिए स्वाभाविक हो जाते हैं। यह वैसा ही है कि सांख्यिकीय पैकेजों ने उन परीक्षणों जैसे कार में आर, आईबीएम एसपीएसएस सांख्यिकी में जीएलएम , और एसएएस के पीआरसी जीएलएम में दोहराए गए कथन को लागू किया ।

मुझे यह पक्का नहीं है कि बायेसियन डेटा विश्लेषण में फॉर्मुलेशन मायने रखता है, लेकिन मुझे संदेह है कि उपरोक्त परीक्षण क्षमता को एकतरफा प्लेटफॉर्म के तहत तैयार और कार्यान्वित किया जा सकता है।

Comments

मैं देखता हूं, इससे समझ में आता है। शानदार जवाब के लिए धन्यवाद। मुझे एक बायेसियन परिप्रेक्ष्य भी सुनना अच्छा लगेगा।

— बिल_ए

@PeterRabbit यदि आपको उत्तर पसंद है, तो कृपया उनके उत्तर को स्वीकार करके ब्लूपोल पर अपना आभार व्यक्त करें। उसे अंक मिलेंगे।

— 22

मैं करूंगा, मैं सिर्फ यह देखने के लिए थोड़ा बाहर पकड़ रहा था कि क्या कोई भी बायेसियन परिप्रेक्ष्य प्रदान करेगा।

— Bill_e

Answer 2

यदि आप उपयुक्त विचरण-सहसंयोजक संरचना फिट करते हैं, तो दोनों मॉडल समान हैं। रूपांतरित रैखिक मॉडल में, हमें क्रोनकर उत्पाद के साथ त्रुटि घटक के विचरण-कोवरियन मैट्रिक्स को फिट करने की आवश्यकता होती है, जिसमें उपलब्ध कंप्यूटिंग सॉफ्टवेयर्स में सीमित उपलब्धता होती है। लीनियर मॉडल थ्योरी-यूनीवेरिएट, मल्टीवेरिएट और मिक्स्ड मॉडल इस विषय के लिए उत्कृष्ट संदर्भ हैं।

संपादित

यहाँ एक और अच्छा संदर्भ स्वतंत्र रूप से उपलब्ध है।

Comments

ओह ठीक है, इसलिए एक सामान्य अविभाजित मॉडल में, "डीवीएस" के भीतर किसी भी प्रकार का सहसंयोजक संरचना नहीं है। इसलिए इससे संबंधित परिकल्पना परीक्षण मौजूद नहीं है। धन्यवाद! मैं देखूंगा कि क्या मैं वह किताब उठा सकता हूं।

— Bill_e