साधारण कम से कम वर्गों में डबल बार और 2 का अर्थ क्या है?

Question

मैंने यहां सामान्य से कम वर्गों के लिए इस संकेतन को देखा ।

$$\min_w \left\| Xw - y \right\|^2_2$$

मैंने कभी भी डबल बार और 2 को नीचे नहीं देखा है। इन प्रतीकों का क्या मतलब है? क्या उनके लिए विशिष्ट शब्दावली है?

Comments

दोहरे पट्टियों का उपयोग केवल यह दर्शाता है कि हम L2 मानदंड का उपयोग कर रहे हैं।

— माइकल आर। चेरनिक

@MichaelChernick और 2? "L2 मानदंड" का वह हिस्सा है?

— असेम बंसल

हां, L2 की तरह, L1 भी है।

— जॉन

मुझे लगता है कि $X_w$ होना चाहिए $Xw$ के बाद से $w$ एक वेक्टर है

— ilanman

@ilanman हाँ वही है जो संपादन से पहले नोटेशन में था। मैंने इसे वापस बदल दिया

— असेम बंसल

Answer 1

आप वेक्टर ( Xw - y ) के $\ell_2$ -norm (Euclidean मानदंड) के बारे में बात कर रहे हैं । यदि आपके लिए यह विदेशी है, संक्षेप में, \ ell_p -norm of a वेक्टर u \ in \ mathbb {R} ^ {n} , है:$Xw - y$$\ell_p$$u \in \mathbb{R}^{n}$

$$\|u\|_p = \big(\sum_{i=1}^{n} |u_i|^p\big)^{\frac1p}$$

तो आपके मामले में जो के लिए चुकता अवशिष्टों के योग के अनुरूप है। प्रतिगमन समस्याओं के संदर्भ में, आपको इसका अर्थ चुकता त्रुटि (MSE) गणना और रिज प्रतिगमन में बहुत अधिक दिखाई देगा ।$\|u\|_2^2 = (\big(\sum\limits_{i=1}^{n} |u_i|^2\big)^{\frac12})^2 = \sum\limits_{i=1}^{n} u_i^2$

यह एक सामान्य मानदंड है (अन्य कारणों के बीच, यह गणितीय रूप से सुविधाजनक है), इसलिए जब यह संदर्भ से स्पष्ट होता है, तो आप निचले छोड़ देंगे , और just ।‖ u ‖ $2$$\|u\|^2$

जैसा कि टिप्पणियों में बताया गया है, आप -norm भी देख सकते हैं :$\ell_1$

$$\|u\|_1 = \sum_{i=1}^{n} |u_i|$$

जो निरपेक्ष मूल्य से मेल खाती है। फिर, आप इसे संपूर्ण निरपेक्ष त्रुटि (MAE) या लासो समस्याओं में देखेंगे ।

अन्य लोकप्रिय मानदंड:

• $\ell_0$ -norm: एक सदिश में गैर-शून्य की हैमिंग दूरी , या #, यानी एक सदिश की विरलता की गणना में। तकनीकी रूप से यह एक मानदंड नहीं है (यह एक कार्डिनैलिटी फ़ंक्शन है), क्योंकि आपके पास परिभाषा में एक शब्द है, लेकिन इसका एक मानदंड है, इसलिए हम इसे एक कहते हैं। $\frac{1}{0}$
  • यह मानदंड प्रतिगमन समस्याओं के लिए स्पार्सिटी को प्रेरित करने में उपयोग किया जाने वाला आदर्श मानदंड है क्योंकि हम वास्तव में गुणांक को शून्य करना चाहते हैं, हालांकि कंप्यूटिंग नियमितीकरण एनपी-हार्ड है, इसलिए इसके बजाय हम इसे साथ अनुमानित करते हैं जो रैखिक प्रोग्रामिंग के माध्यम से हल करने योग्य है। यह कॉम्प्रेस्ड सेंसिंग में भी लोकप्रिय है ।ℓ $\ell_0$$\ell_1$
• अधिकतम मैं { | x i | } मैं = 1 , । । । , $\ell_{\infty}$ -norm: = underset लिए$\underset{i} {\text{max}}$ $\{|x_i|\}$$i = 1, ..., n$
• ए ∈ आर एन × मीटर = $\|A\|_F$ : फ्रोबेनियस (यूक्लिडियन) मानदंड, मैट्रिक्स पर लागू किया गया$A \in \mathbb{R}^{n\times m} = \sqrt{\sum \limits_{i=1}^{n}\sum \limits_{j=1}^{m}|a_{ij}|^2}$

Comments

वुल्फराम अल्फा का लिंक वास्तव में मददगार था।

— असेम बंसल

आप लिखते हैं कि (छद्म) मानदंड एक वेक्टर में शून्य की संख्या को गिना जाता है - क्या आप शायद गैर- अक्षीय प्रविष्टियों की संख्या का मतलब है ? (यह मैं क्या देखा है से अधिक निरंतर हो सकता है, और यह भी मतलब है कि के बीच आलोचनात्मक अंतर होगा और , के रूप में करने का विरोध किया जा रहा है शून्य से कि दूरी।) ‖ यू ‖ 0 यू 0 ∈ आर एन$\ell_0$$\lVert u \rVert_{0}$$u$$0 \in \mathbb R^n$$n$

— वॅर्चिनिन

वर्तनी की त्रुटि: "फ्रोबेनियस"।

— होब्स

"यह एक सामान्य मानदंड है" के बजाय मैंने "L2 is the norm" कहा है;)

— user541686