ऑर्थोगोनल, सहसंबंध और स्वतंत्रता के बीच क्या संबंध है?

मैंने एक लेख पढ़ा है जिसमें कहा गया है कि जब एनओआईएए में अलग-अलग तरीकों का उपयोग करने के लिए नियोजित विरोधाभासों का उपयोग किया जाता है, तो बाधाएं ऑर्थोगोनल होनी चाहिए ताकि वे असंबंधित हों और टाइप I त्रुटि को फुलाए जाने से रोकें।

मुझे समझ नहीं आता कि किसी भी परिस्थिति में ऑर्थोगोनल का मतलब असंबद्ध क्यों होगा। मुझे उसका एक दृश्य / सहज विवरण नहीं मिल रहा है, इसलिए मैंने इन लेखों / उत्तरों को समझने की कोशिश की

https://www.psych.umn.edu/faculty/waller/classes/FA2010/Readings/rodgers.pdf

आंकड़ों के संदर्भ में ऑर्थोगोनल का क्या अर्थ है?

लेकिन मेरे लिए, वे एक दूसरे का खंडन करते हैं। पहले का कहना है कि यदि दो चर असंबंधित और / या ऑर्थोगोनल हैं, तो वे रैखिक रूप से स्वतंत्र हैं, लेकिन यह तथ्य कि वे रैखिक स्वतंत्र हैं का मतलब यह नहीं है कि वे असंबद्ध और / या ऑर्थोगोनल हैं।

अब दूसरी कड़ी में उत्तर दिए गए हैं कि "ओर्थोगोनल का अर्थ असंबंधित" और "यदि X और Y स्वतंत्र हैं तो राज्य जैसी चीजें हैं, तो वे ऑर्थोगोनल हैं। लेकिन यह बात सही नहीं है"।

दूसरी कड़ी में एक और दिलचस्प टिप्पणी यह है कि दो चर के बीच सहसंबंध गुणांक इन चर के अनुरूप दो वैक्टरों के बीच के कोण के कोसाइन के बराबर है, जिसका अर्थ है कि दो ऑर्थोगोनल वैक्टर पूरी तरह से असंबंधित हैं (जो पहला लेख नहीं है दावे)।

तो स्वतंत्रता, ओर्थोगोनल और सहसंबंध के बीच वास्तविक संबंध क्या है? शायद मैं कुछ याद कर रहा हूं, लेकिन मुझे यह पता नहीं चल पा रहा है कि यह क्या है।

correlation independence

— कार्ल लेवाससुर
स्रोत

क्या इस प्रश्न के दाईं ओर "लिंक किए गए" और "संबंधित" के रूप में दिखाने वाले प्रश्नों के उत्तर में से कोई भी आपको संतुष्ट नहीं करता है?

— दिलीप सरवटे

मेरे द्वारा प्रदान किए गए दो लिंक ठोस उत्तर प्रदान करते हैं, लेकिन अलग-अलग चीजें बताती हैं, और जब मैं संबंधित प्रश्नों को देखता हूं, तो मैं देख सकता हूं कि उत्तर देने वाले लोग एक-दूसरे से सहमत होने से बहुत दूर हैं

— कार्ल लीवसेउर

भ्रम / कथित विरोधाभास पूरी तरह से रैखिक स्वतंत्रता और सांख्यिकीय स्वतंत्रता के बीच अंतर के कारण हो सकता है।

— जोना

मुझे लगता है कि (एएनओवीए) बाधाओं को ऑर्थोगोनल होना चाहिए इस सवाल का एक महत्वपूर्ण पहलू है: यह सिर्फ यादृच्छिक चर के बारे में नहीं है। निकट-संबंधी प्रश्न की तुलना में "स्वतंत्रता" पर एक अतिरिक्त जोर भी है जो जियान ने एक संभावित डुप्लिकेट के रूप में सुझाया था (उस प्रश्न में ओपी ने कहा कि वे "स्वतंत्रता" को समझते थे इसलिए बड़े पैमाने पर उत्तर में दिए गए थे)। इसलिए मेरा सुझाव है कि यह एक डुप्लिकेट नहीं है, और दूसरा @ जोना है कि भ्रम को "स्वतंत्रता" के कई अर्थों में लपेटा जा सकता है।

— सिल्वरफिश

मेरा यह भी मानना है कि यह कोई नकल नहीं है। यह प्रश्न सहसंबंध का उल्लेख नहीं करता है, और उत्तर में ओर्थोगोनलिटी और असंबद्धता के बीच संभावित अंतर का विवरण नहीं है। इसके अलावा, जैसा कि पोस्टर ने बताया, अलग-अलग संबंधित प्रश्नों के उत्तर दिए गए हैं।

— ए। डोंडा

जवाबों:

स्वतंत्रता एक सांख्यिकीय अवधारणा है। दो यादृच्छिक चर और सांख्यिकीय रूप से स्वतंत्र होते हैं यदि उनका संयुक्त वितरण सीमांत वितरण का उत्पाद है, अर्थात यदि प्रत्येक चर में घनत्व , या अधिक सामान्यतः जहां प्रत्येक यादृच्छिक चर के संचयी वितरण फ़ंक्शन को दर्शाता है। $X$ $Y$

f (x, y) = f (x) f (y)

$f(x, y) = f(x) f(y)$

f

$f$

F (x, y) = F (x) F (y)

$F(x, y) = F(x) F(y)$

F

$F$

सहसंबंध एक कमजोर लेकिन संबंधित सांख्यिकीय अवधारणा है। (पियर्सन) दो यादृच्छिक चर का सहसंबंध मानकीकृत चर के उत्पाद की प्रत्याशा है, अर्थात चर असंबंधित हैं यदि । यह दिखाया जा सकता है कि स्वतंत्र होने वाले दो यादृच्छिक चर जरूरी असंबंधित हैं, लेकिन इसके विपरीत नहीं।

ρ = E [\frac{X - E [X]}{\sqrt{E [(X - E [X])^{2}]}} \frac{Y - E [Y]}{\sqrt{E [(Y - E [Y])^{2}]}}] .

$\newcommand{\E}{\mathbf E} \rho = \E \left [ \frac{X - \E[X]}{\sqrt{\E[(X - \E[X])^2]}} \frac{Y - \E[Y]}{\sqrt{\E[(Y - \E[Y])^2]}} \right ].$

ρ = 0

$\rho = 0$

ऑर्थोगोनलिटी एक अवधारणा है जो ज्यामिति में उत्पन्न हुई, और रैखिक बीजगणित और गणित के संबंधित क्षेत्रों में सामान्यीकृत हुई। रैखिक बीजगणित में, दो वैक्टर और की ऑर्थोगोनलिटी को आंतरिक उत्पाद रिक्त स्थान में परिभाषित किया गया है , अर्थात वेक्टर उत्पाद एक आंतरिक उत्पाद , इस स्थिति के रूप में कि आंतरिक उत्पाद विभिन्न तरीकों से परिभाषित किया जा सकता है (विभिन्न आंतरिक उत्पाद रिक्त स्थान में जिसके परिणामस्वरूप)। यदि वैक्टर संख्याओं के अनुक्रम के रूप में दिए गए हैं, तो , तो एक विशिष्ट विकल्प डॉट उत्पाद है , $u$ $v$ $\langle u, v \rangle$

⟨ u, v ⟩ = 0.

$\langle u, v \rangle = 0.$

u = (u_{1}, u_{2}, \dots u_{n})

$u = (u_1, u_2, \ldots u_n)$

⟨ u, v ⟩ = \sum_{i = 1}^{n} u_{i} v_{i}

$\langle u, v \rangle = \sum_{i = 1}^n u_i v_i$ ।

ऑर्थोगोनलिटी इसलिए प्रति से एक सांख्यिकीय अवधारणा नहीं है, और आपके द्वारा देखे जाने वाले भ्रम आंकड़ों के लिए रैखिक बीजगणितीय अवधारणा के विभिन्न अनुवादों के कारण होने की संभावना है:

a) औपचारिक रूप से, यादृच्छिक चर के एक स्थान को वेक्टर स्थान माना जा सकता है। तब उस अंतरिक्ष में एक आंतरिक उत्पाद को अलग-अलग तरीकों से परिभाषित करना संभव है। एक सामान्य विकल्प इसे सहसंयोजक के रूप में परिभाषित करना है: चूंकि दो यादृच्छिक चर का सहसंबंध शून्य है यदि सहसंयोजक शून्य है, तो इस परिभाषा के अनुसार असंबद्धता रूढ़िवादिता के समान है। (एक अन्य संभावना यह है कि रैंडम वैरिएबल के आंतरिक उत्पाद को केवल उत्पाद की प्रत्याशा के रूप में परिभाषित किया जाए ।)

⟨ X, Y ⟩ = c o v (X, Y) = E [(X - E [X]) (Y - E [Y])] .

$\langle X, Y \rangle = \mathrm{cov} (X, Y) = \E [ (X - \E[X]) (Y - \E[Y]) ].$

ख) उन सभी चरों को नहीं जिन्हें हम आँकड़ों में मानते हैं, यादृच्छिक चर हैं। विशेष रूप से रैखिक प्रतिगमन में, हमारे पास स्वतंत्र चर हैं जिन्हें यादृच्छिक नहीं बल्कि पूर्वनिर्धारित माना जाता है। स्वतंत्र चर आमतौर पर संख्याओं के अनुक्रम के रूप में दिए जाते हैं, जिसके लिए ऑर्थोगोनलिटी को स्वाभाविक रूप से डॉट उत्पाद (ऊपर देखें) द्वारा परिभाषित किया गया है। हम फिर प्रतिगमन मॉडल के सांख्यिकीय परिणामों की जांच कर सकते हैं जहां स्वतंत्र चर या ऑर्थोगोनल नहीं हैं। इस संदर्भ में, ऑर्थोगोनलिटी में विशेष रूप से सांख्यिकीय परिभाषा नहीं है, और इससे भी अधिक: यह यादृच्छिक चर पर लागू नहीं होता है।

सिल्वरफ़िश की टिप्पणी पर प्रतिक्रिया जोड़ना: ऑर्थोगोनलिटी न केवल मूल रजिस्टरों के संबंध में बल्कि विरोधाभासों के संबंध में भी प्रासंगिक है, क्योंकि (सरल वैक्टर के विपरीत) सरल विरोधाभासों के सेट को डिज़ाइन मैट्रिक्स के परिवर्तनों के रूप में देखा जा सकता है, अर्थात सेट स्वतंत्र चर का एक नया सेट में, स्वतंत्र चर का। विरोधाभासों के लिए ऑर्थोगोनलिटी को डॉट उत्पाद के माध्यम से परिभाषित किया गया है। यदि मूल रेजिस्टर्स पारस्परिक रूप से ऑर्थोगोनल हैं और एक ओर्थोगोनल कंट्रास्ट लागू करता है, तो नए रेजिस्टर पारस्परिक रूप से ऑर्थोगोनल भी होते हैं। यह सुनिश्चित करता है कि विरोधाभासों के सेट को मुख्य प्रभावों और अंतःक्रियाओं में विचरण के विघटन के रूप में देखा जा सकता है, विचार ANOVA अंतर्निहित है ।

चूंकि वेरिएंट a) के अनुसार, एक ही चीज़ के लिए असंबद्धता और रूढ़िवादिता केवल अलग-अलग नाम हैं, मेरी राय में उस अर्थ में शब्द का उपयोग करने से बचना सबसे अच्छा है। अगर हम यादृच्छिक चर की असंबद्धता के बारे में बात करना चाहते हैं, तो आइए हम ऐसा कहते हैं और एक अलग पृष्ठभूमि और विभिन्न निहितार्थों के साथ दूसरे शब्द का उपयोग करके मामलों को जटिल नहीं करते हैं। यह वैरिएंट बी के अनुसार इस्तेमाल की जाने वाली ऑर्थोगोनलिटी को भी मुक्त करता है), जो विशेष रूप से उनके प्रतिगमन पर चर्चा करने में अत्यधिक उपयोगी है। और दूसरे तरीके से, हमें स्वतंत्र चर के लिए सहसंबंध शब्द को लागू करने से बचना चाहिए, क्योंकि वे यादृच्छिक चर नहीं हैं।

रॉजर्स एट अल की प्रस्तुति काफी हद तक इस दृष्टिकोण के अनुरूप है, विशेष रूप से जब तक वे orthogonality को असमानता से अलग समझते हैं। हालांकि, वे गैर-यादृच्छिक चर (संख्याओं के अनुक्रम) से सहसंबंध शब्द को लागू करते हैं। यह केवल नमूना सहसंबंध गुणांक संबंध में सांख्यिकीय रूप से समझ में आता है । मैं तब भी इस शब्द के उपयोग से बचने की सिफारिश करूंगा, जब तक कि संख्या अनुक्रम को यादृच्छिक चर की प्राप्ति के अनुक्रम के रूप में नहीं माना जाता है । $r$

मैंने उपरोक्त पाठ में दो संबंधित प्रश्नों के उत्तर के लिंक बिखरे हुए हैं, जो आपको इस उत्तर के संदर्भ में डालने में मदद करनी चाहिए।

— ए डोंडा
स्रोत

+1 आपके द्वारा यहां किए गए भेद बहुत स्पष्ट और सहायक हैं - मुझे पूरी पोस्ट पढ़ने में मज़ा आया।

— whuber

+1 मुझे पसंद आया कि आप दूसरे उत्तरों को कैसे मिटाते हैं जो अन्यथा विरोधाभासी लग सकते हैं। शायद भाग में (ख) यह विशेष रूप से प्रयोगात्मक डिजाइन या एनोवा के बारे में कुछ का उल्लेख करना अच्छा होगा (क्योंकि ओपी के प्रश्न में इसका उल्लेख किया गया था) - यह तुरंत स्पष्ट नहीं है, आपके उत्तर के संदर्भ में, क्यों "ओर्थोगोनलिटी" एक दिलचस्प हो सकता है या वास्तव में एक स्वतंत्र चर की वांछनीय संपत्ति।

— सिल्वरफिश

@Silverfish, आप सही हैं, मैं इसे जोड़ने की कोशिश करूँगा।

— ए। डोंडा

मैं व्हीबर की भद्दी टिप्पणियों से अलग होने की भीख माँगता हूँ। स्वतंत्रता की परिभाषा भयानक है: ऐसा लगता है कि यादृच्छिक चर और में समान संचयी संभाव्यता वितरण फ़ंक्शन (CDF या cdf) है, जिसे यहाँ द्वारा दर्शाया गया है । और नहीं, और और के विभिन्न सीडीएफ को निरूपित नहीं करते हैं । एक वास्तविक चर का एक वास्तविक-मूल्यवान कार्य है, और और और इस फ़ंक्शन के मानों को और के संख्याओं में दर्शाते हैं।

X

$X$

Y

$Y$

F (\cdot)

$F(\cdot)$

F (x)

$F(x)$

F (y)

$F(y)$

X

$X$

Y

$Y$

F (\cdot)

$F(\cdot)$

F (x)

$F(x)$

F (y)

$F(y)$

x

$x$

y

$y$ । सही phrasing होगी

F_{X, Y} (x, y) = F_{X} (x) F_{Y} (y) for all x and y, - \infty < x, y < \infty .

$F_{X,Y}(x,y) = F_X(x)F_Y(y)~\text{for all}~ x~\text{and}~y, -\infty < x,y < \infty.$

— दिलीप सरवटे

@ दिलीपस्वात, पुह-पट्टा ...

— ए।

यहाँ मेरा सहज विचार है: यह बताना कि x और y असंबंधित हैं / ऑर्थोगोनल, दोनों तरीके कह रहे हैं कि x या y के मूल्य का ज्ञान दूसरे की भविष्यवाणी को सक्षम नहीं करता है - x और y एक-दूसरे से स्वतंत्र हैं - मान लेना कि कोई भी संबंध रैखिक है।

सहसंबंध गुणांक x (या y) का कितना अच्छा ज्ञान है, यह संकेत देता है कि हमें y (या x) का अनुमान लगाने में सक्षम बनाता है। रैखिक रिश्तों को मानते हुए।

एक विमान में, एक्स अक्ष के साथ एक वेक्टर वाई अक्ष के साथ अपने घटक को बदलने के बिना परिमाण में भिन्न हो सकता है - एक्स और वाई एक्सिस ओर्थोगोनल हैं और एक्स के साथ वेक्टर वाई के साथ किसी भी ओर ऑर्थोगोनल है। एक वेक्टर के परिमाण को भिन्न करना। एक्स के साथ नहीं, एक्स और वाई दोनों घटकों को भिन्न करने का कारण होगा। वेक्टर अब Y का ऑर्थोगोनल नहीं है।

यदि दो चर असंबंधित हैं, तो वे ऑर्थोगोनल हैं और यदि दो चर ऑर्थोगोनल हैं, तो वे असंबंधित हैं। सहसंबंध और ओर्थोगोनलिटी बस अलग-अलग हैं, हालांकि समतुल्य - बीजीय और ज्यामितीय - रैखिक स्वतंत्रता की धारणा को व्यक्त करने के तरीके। एक सादृश्य के रूप में, दो ज्यामितीयों में प्लॉटिंग (ज्यामितीय) और निर्धारकों (बीजगणितीय) द्वारा रैखिक समीकरणों की एक जोड़ी के समाधान पर विचार करें।

रैखिकता धारणा के संबंध में - x को समय दें, y को एक साइन फ़ंक्शन होने दें। एक अवधि में, x और y दोनों ऑर्थोगोनल हैं और दोनों की गणना के लिए सामान्य साधनों का उपयोग करते हुए असंबंधित हैं। हालाँकि x का ज्ञान हमें y की सटीक भविष्यवाणी करने में सक्षम बनाता है। रैखिकता सहसंबंध और ओर्थोगोनलिटी का एक महत्वपूर्ण पहलू है।

हालांकि प्रश्न का हिस्सा नहीं है, मैं ध्यान देता हूं कि सहसंबंध और गैर-रूढ़िवाद समानता के कारण नहीं हैं। x और y को सहसंबद्ध किया जा सकता है क्योंकि वे दोनों कुछ, संभवतः छिपे हुए हैं, एक तीसरे चर पर निर्भरता है। आइसक्रीम का सेवन गर्मियों में अधिक होता है, लोग गर्मियों में अधिक बार समुद्र तट पर जाते हैं। दोनों सहसंबद्ध हैं, लेकिन न तो दूसरे को "कारण" देते हैं। इस बिंदु से अधिक के लिए https://en.wikipedia.org/wiki/Correlation_does_not_imply_causation देखें ।

— जेम्स आर। मैटी
स्रोत

असंबद्धता और रूढ़िवादिता अलग-अलग चीजें हैं। आप यहाँ देख सकते हैं कि - terpconnect.umd.edu/~bmomen/BIOM621/LineardepCorrOrthogonal.pdf

— Yurii

यहाँ संबंध है: यदि X और Y असंबंधित हैं, तो XE [X] YE [Y] का ऑर्थोगोनल है।

इसके विपरीत स्वतंत्र असंबद्ध की एक मजबूत अवधारणा है, यानी, स्वतंत्र असंबद्ध को जन्म देगा, (गैर-) ऑर्थोगोनल और (संयुक्त राष्ट्र) सहसंबंधित एक ही समय में हो सकता है।

मैं इस सेमेस्टर की प्रायिकता का टीए रहा हूं, इसलिए मैं स्वतंत्रता, सहसंबंध, रूढ़िवादिता के बारे में एक छोटा वीडियो बनाता हूं।

https://youtu.be/s5lCl3aQ_A4

आशा करता हूँ की ये काम करेगा।

— लिनान हुआंग
स्रोत

इस सवाल का जवाब नहीं है।

— माइकल आर। चेरिक

मैं उत्तर को संशोधित करता हूं, आशा है कि यह ~ @ माइकल चेरिक

— लिनैन हुआंग

@linanhuang लार्क्स के लोग?

— YHH