सॉफ्टवेयर पैकेज एल-इनफिनिटी मानक रैखिक प्रतिगमन को हल करने के लिए [बंद]

बन्द है। यह सवाल ऑफ टॉपिक है । यह वर्तमान में उत्तर स्वीकार नहीं कर रहा है।

इस प्रश्न को सुधारना चाहते हैं? प्रश्न को अपडेट करें ताकि यह क्रॉस मान्य के लिए विषय पर हो ।

14 घंटे पहले बंद किया गया ।

क्या एल-इन्फिनिटी मान को न्यूनतम करने के उद्देश्य से रैखिक प्रतिगमन को हल करने के लिए कोई सॉफ्टवेयर पैकेज है।

regression

खैर, कोई भी रैखिक प्रोग्रामिंग पैकेज काम करेगा। जो आपको बहुत सारे विकल्पों के साथ छोड़ देता है। :)

— कार्डिनल

@ कार्डिनल आप इसे एक रेखीय कार्यक्रम के रूप में कैसे पुनरावर्ती करेंगे? यह स्पष्ट नहीं है कि इसे तुच्छ मामलों में भी कैसे किया जाए (जैसे कि दो डेटा बिंदु और एक पैरामीटर): कोई अड़चन नहीं होती है और उद्देश्य फ़ंक्शन अशुद्ध होता है।

— व्हीबर

मुख्य वाक्यांश : चेबीशेव सन्निकटन। (अधिक पालन करने के लिए। यह विचार एक अतिरिक्त चर का परिचय देना है और फिर बाधाओं में उद्देश्य को मोड़ना है।)

— कार्डिनल

@कार्डिनल आपका मतलब यह है: mathworld.wolfram.com/ChebyshevApproximationFormula.html यह बहुत जटिल लगता है।

— फैन झांग

खैर, यह थोड़ा संबंधित है, लेकिन इस समस्या के लिए जर्मे नहीं है। आपकी समस्या को एक साधारण एलपी के साथ हल किया जा सकता है। जैसे ही मुझे कंप्यूटर मिल सकता है, मैं एक उत्तर पोस्ट करूंगा।

— कार्डिनल

जवाबों:

संक्षिप्त उत्तर : आपकी समस्या को रैखिक कार्यक्रम (एलपी) के रूप में तैयार किया जा सकता है, जिससे आप कार्य के लिए अपने पसंदीदा एलपी सॉल्वर का चयन कर सकते हैं। यह देखने के लिए कि समस्या को एलपी के रूप में कैसे लिखा जाए, पर पढ़ें।

इस न्यूनतम समस्या को अक्सर चेबीशेव सन्निकटन के रूप में जाना जाता है ।

Let , पंक्ति के साथ जिसे और द्वारा दर्शाया है । तब हम फ़ंक्शन को कम करना चाहते हैं सम्मान के साथ । द्वारा इष्टतम मान को अस्वीकृत करें $\newcommand{\y}{\mathbf{y}}\newcommand{\X}{\mathbf{X}}\newcommand{\x}{\mathbf{x}}\newcommand{\b}{\mathbf{\beta}}\newcommand{\reals}{\mathbb{R}}\newcommand{\ones}{\mathbf{1}_n} \y = (y_i) \in \reals^n$ $\X \in \reals^{n \times p}$ $i$ $\x_i$ $\b \in \reals^p$ $f(\b) = \|\y - \X \b\|_\infty$ $\b$

f^{⋆} = f (β^{⋆}) = inf {f (β) : β \in R^{p}} .

$f^\star = f(\b^\star) = \inf \{f(\b): \b \in \reals^p \} \>.$

एलपी के रूप में इसे पुन: पेश करने की कुंजी एपिग्राफ रूप में समस्या को फिर से लिखना है । अपने आप को यह विश्वास दिलाना मुश्किल नहीं है कि वास्तव में,

f^{⋆} = inf {t : f (β) \leq t, t \in R, β \in R^{p}} .

$f^\star = \inf\{t: f(\b) \leq t, \;t \in \reals, \;\b \in \reals^p \} \> .$

अब, फ़ंक्शन की परिभाषा का उपयोग करते हुए , हम राइट-साइड साइड को फिर से लिख सकते हैं जैसे कि और इसलिए हम देखते हैं कि प्रतिगमन सेटिंग में मान को कम करना LP के समान है जहां अनुकूलन किया जाता है से अधिक , और लंबाई वाले लोगों के एक वेक्टर को दर्शाता है । मैं इसे पाठक के लिए मानक रूप में उपरोक्त एलपी को पुनः प्राप्त करने के लिए एक (आसान) अभ्यास के रूप में छोड़ देता हूं। $f$

f^{⋆} = inf {t : - t \leq y_{i} - x_{i} β \leq t, t \in R, β \in R^{p}, 1 \leq i \leq n},

$f^\star = \inf\{t: -t \leq y_i - \x_i \b \leq t, \;t \in \reals, \;\b \in \reals^p,\; 1 \leq i \leq n \} \>,$

ℓ_{\infty}

$\ell_\infty$

\begin{array}{ll} minimize & t \\ subject to & y - X β \leq t 1_{n} \\ y - X β \geq - t 1_{n}, \end{array}

$\begin{array}{ll} \text{minimize} & t \\ \text{subject to} & \y-\X \b \leq t\ones \\ & \y - \X \b \geq - t \ones \>, \\ \end{array}$

(β, t)

$(\b, t)$

1_{n}

$\ones$

n

$n$

रैखिक प्रतिगमन के (कुल भिन्नता) संस्करण से संबंध $\ell_1$

यह ध्यान रखना दिलचस्प है कि कुछ बहुत समान मानदंड के साथ किया जा सकता है । चलो । फिर, इसी तरह के तर्क एक निष्कर्ष निकालने के लिए नेतृत्व करते हैं कि ताकि संबंधित एल.पी. $\ell_1$ $g(\b) = \|\y - \X \b \|_1$

g^{⋆} = inf {t^{T} 1_{n} : - t_{i} \leq y_{i} - x_{i} β \leq t_{i}, t = (t_{i}) \in R^{n}, β \in R^{p}, 1 \leq i \leq n},

$\newcommand{\t}{\mathbf{t}} g^\star = \inf\{\t^T \ones : -t_i \leq y_i - \x_i \b \leq t_i, \;\t = (t_i) \in \reals^n, \;\b \in \reals^p,\; 1 \leq i \leq n \} \>,$

\begin{array}{ll} minimize & t^{T} 1_{n} \\ subject to & y - X β \leq t \\ y - X β \geq - t . \end{array}

$\begin{array}{ll} \text{minimize} & \t^T \ones \\ \text{subject to} & \y-\X \b \leq \t \\ & \y - \X \b \geq - \t \>. \\ \end{array}$

यहाँ ध्यान दें कि अब एक स्केलर के बजाय लंबाई का वेक्टर है , क्योंकि यह मामले में था। $\t$ $n$ $\ell_\infty$

इन दोनों समस्याओं में समानता और तथ्य यह है कि इन दोनों को एलपी के रूप में डाला जा सकता है, ज़ाहिर है, कोई दुर्घटना नहीं। दो मानदंड इस बात से संबंधित हैं कि वे एक दूसरे के दोहरे मानदंड हैं ।

— कार्डिनल
स्रोत

आप मापदंडों और / या भविष्यवाणियों के लिए परिशुद्धता के कुछ माप कैसे पाएंगे? मैं निम्नलिखित हालिया प्रश्न के कारण पूछता हूं: mathematica.stackexchange.com/questions/214226/… ।

— जिमब

मलाव इसे कर सकता है, cvx का उपयोग कर। cvx (फ्री) पाने के लिए:

http://cvxr.com/cvx/download/

Cvx में, आप इसे इस तरह से लिखेंगे:

cvx_begin
   variable x(n);
   minimize( norm(A*x-b,Inf) );
cvx_end

( मैनुअल का उदाहरण पृष्ठ 12 देखें )

CVX ( यहां ) का एक पायथन कार्यान्वयन है, लेकिन कमांड थोड़ा अलग हैं ...

— user603
स्रोत

@ कार्डिनल का उत्तर अच्छी तरह से कहा गया है और इसे स्वीकार कर लिया गया है, लेकिन, इस धागे को पूरी तरह से बंद करने के लिए, मैं निम्नलिखित की पेशकश करूंगा: IMSL न्यूमेरिकल लाइब्रेरी में एल-इनफिनिटी मानक प्रतिगमन करने के लिए एक दिनचर्या होती है। दिनचर्या फोरट्रान, सी, जावा, सी # और पायथन में उपलब्ध है। मैंने C और पायथन संस्करणों का उपयोग किया है जिसके लिए विधि को lnorm_regression कहा जाता है, जो सामान्य -norm प्रतिगमन, का भी समर्थन करता है । $L_p$ $p >= 1$

ध्यान दें कि ये वाणिज्यिक पुस्तकालय हैं लेकिन गैर-व्यावसायिक उपयोग के लिए पायथन संस्करण मुफ्त (बीयर में) हैं।

— जोश हेमन
स्रोत

Unfortunatley, लिंक अब काम नहीं करता है। क्या आप इसे अपडेट कर सकते हैं?

— COOLSerdash