मात्रात्मक प्रतिगमन: हानि कार्य

24

मैं मात्रात्मक प्रतिगमन को समझने की कोशिश कर रहा हूं, लेकिन एक चीज जो मुझे परेशान करती है, वह है हानि कार्य का विकल्प।

$\rho_\tau(u) = u(\tau-1_{\{u<0\}})$

मुझे पता है कि की उम्मीद की न्यूनतम के बराबर है -quantile, लेकिन सहज ज्ञान युक्त कारण इस समारोह के साथ शुरू करने के लिए क्या है? मैं इस फंक्शन और क्वांटाइल को कम करने के बीच का संबंध नहीं देखता। क्या कोई मुझे समझा सकता है? $\rho_\tau(y-u)$ $\tau\%$

quantiles loss-functions quantile-regression

— सीडीओ
स्रोत

28

मैं इस प्रश्न को अंतर्दृष्टि के रूप में पूछ रहा हूं कि कोई भी नुकसान फ़ंक्शन के साथ कैसे आ सकता है जो किसी दिए गए क्वांटाइल को नुकसान के न्यूनतम के रूप में उत्पन्न करता है, चाहे कोई भी अंतर्निहित वितरण हो। यह असंतोषजनक होगा, फिर, विकिपीडिया या अन्य जगहों पर विश्लेषण को दोहराने के लिए जो इस विशेष नुकसान कार्य को दर्शाता है।

आइए कुछ परिचित और सरल से शुरू करें।

आप जिस बारे में बात कर रहे हैं, वह डेटा वितरण या सेट के सापेक्ष एक "स्थान" ढूंढ रहा है । यह अच्छी तरह से ज्ञात है, उदाहरण के लिए, माध्य अपेक्षित अवशिष्ट अवशिष्ट को कम करता है; वह है, जिसके लिए यह एक मूल्य है $x^{*}$ $F$ $\bar x$

L_{F} (\bar{x}) = \int_{R} (x - \bar{x})^{2} d F (x)

$\mathcal{L}_F(\bar x)=\int_{\mathbb{R}} (x - \bar x)^2 dF(x)$

जितना संभव हो उतना छोटा है। मैंने इस नोटेशन का उपयोग यह याद दिलाने के लिए किया है कि एक नुकसान से निकला है , कि यह से निर्धारित होता है , लेकिन सबसे महत्वपूर्ण बात यह संख्या पर निर्भर करती है । $\mathcal{L}$ $F$ $\bar x$

यह दिखाने का मानक तरीका है कि कम से कम किसी फ़ंक्शन को शुरू करने से फ़ंक्शन का मान प्रदर्शित नहीं होता है जब थोड़ा कम हो जाता है। इस तरह के मूल्य को फ़ंक्शन का एक महत्वपूर्ण बिंदु कहा जाता है । $x^{*}$ $x^{*}$

किस प्रकार की हानि फ़ंक्शन परिणामस्वरूप प्रतिशतता एक महत्वपूर्ण बिंदु होगा? उस मूल्य के लिए नुकसान होगा $\Lambda$ $F^{-1}(\alpha)$

L_{F} (F^{- 1} (α)) = \int_{R} Λ (x - F^{- 1} (α)) d F (x) = \int_{0}^{1} Λ (F^{- 1} (u) - F^{- 1} (α)) d u .

$\mathcal{L}_F(F^{-1}(\alpha)) = \int_{\mathbb{R}} \Lambda(x-F^{-1}(\alpha))dF(x)=\int_0^1\Lambda\left(F^{-1}(u)-F^{-1}(\alpha)\right)du.$

इसके लिए एक महत्वपूर्ण बिंदु होने के लिए, इसका व्युत्पन्न शून्य होना चाहिए। चूंकि हम सिर्फ कुछ समाधान खोजने की कोशिश कर रहे हैं, हम यह देखने के लिए विराम नहीं देंगे कि क्या जोड़तोड़ वैध हैं: हम तकनीकी विवरण (जैसे कि क्या हम वास्तव में , आदि को अलग कर सकते हैं ) को अंत में जांचने की योजना बनाएंगे । इस प्रकार $\Lambda$

\begin{matrix} (1) & \begin{aligned} 0 & = L_{F}^{'} (x^{*}) = L_{F}^{'} (F^{- 1} (α)) = - \int_{0}^{1} Λ^{'} (F^{- 1} (u) - F^{- 1} (α)) d u \\ = - \int_{0}^{α} Λ^{'} (F^{- 1} (u) - F^{- 1} (α)) d u - \int_{α}^{1} Λ^{'} (F^{- 1} (u) - F^{- 1} (α)) d u . \end{aligned} \end{matrix}

$\eqalign{0 &=\mathcal{L}_F^\prime(x^{*})= \mathcal{L}_F^\prime(F^{-1}(\alpha))= -\int_0^1 \Lambda^\prime\left(F^{-1}(u)-F^{-1}(\alpha)\right)du \\ &= -\int_0^{\alpha} \Lambda^\prime\left(F^{-1}(u)-F^{-1}(\alpha)\right)du -\int_{\alpha}^1 \Lambda^\prime\left(F^{-1}(u)-F^{-1}(\alpha)\right)du.\tag{1} }$

बाईं ओर, का तर्क नकारात्मक है, जबकि दाहिने हाथ की तरफ यह सकारात्मक है। इसके अलावा, इन इंटीग्रल्स के मूल्यों पर हमारा थोड़ा नियंत्रण है क्योंकि कोई भी वितरण कार्य हो सकता है। नतीजतन, हमारी एकमात्र आशा केवल अपने तर्क के संकेत पर निर्भर करने के लिए बनाना है, और अन्यथा यह निरंतर होना चाहिए। $\Lambda$ $F$ $\Lambda^\prime$

इसका तात्पर्य टुकड़ा रेखीय होगा, संभवतः अलग-अलग ढलान के साथ बायीं और शून्य के दाईं ओर। स्पष्ट रूप से यह घटता जाना चाहिए क्योंकि शून्य के करीब पहुंच जाता है - यह है, आखिरकार, एक नुकसान और लाभ नहीं । इसके अलावा, स्थिरांक के साथ को बदलने से इसके गुणों में बदलाव नहीं होगा, इसलिए हम बाएं हाथ को ढलान पर सेट करने के लिए स्वतंत्र महसूस कर सकते हैं । Let दाहिने हाथ की ढलान हो। तब सरल करता है $\Lambda$ $\Lambda$ $-1$ $\tau \gt 0$ $(1)$

0 = α - τ (1 - α),

$0 = \alpha - \tau (1 - \alpha),$

जिस कारण से अद्वितीय समाधान है, एक सकारात्मक गुणज तक,

Λ (x) = {\begin{cases} - x, x \leq 0 \\ \frac{α}{1 - α} x, x \geq 0. \end{cases}

$\Lambda(x) = \cases{-x, \ x \le 0 \\ \frac{\alpha}{1-\alpha}x, \ x \ge 0.}$

इस (प्राकृतिक) समाधान को गुणा करके , हर को साफ करने के लिए, प्रश्न में प्रस्तुत नुकसान फ़ंक्शन का उत्पादन करता है। $1-\alpha$

स्पष्ट रूप से हमारे सभी जोड़तोड़ गणितीय रूप से वैध हैं, जब का यह रूप है। $\Lambda$

— व्हीबर
स्रोत

19

जिस तरह से यह हानि फ़ंक्शन व्यक्त किया गया है वह अच्छा और कॉम्पैक्ट है, लेकिन मुझे लगता है कि इसे रूप में पुनः लिखना आसान है।

ρ_{τ} (X - m) = (X - m) (τ - 1_{(X - m < 0)}) = {\begin{cases} τ | X - m | & i f X - m \geq 0 \\ (1 - τ) | X - m | & i f X - m < 0) \end{cases}

$\rho_\tau(X-m) = (X-m)(\tau-1_{(X-m<0)}) = \begin{cases} \tau |X-m| & if \; X-m \ge 0 \\ (1 - \tau) |X-m| & if \; X-m < 0) \end{cases}$

यदि आप एक सहज ज्ञान प्राप्त करना चाहते हैं कि इस नुकसान को कम करने के लिए th quantile का लाभ क्यों मिलता है , तो यह एक सरल उदाहरण पर विचार करने के लिए सहायक है। चलो एक समान यादृच्छिक चर हो 0 और 1. के बीच Let भी एक ठोस मूल्य के लिए चयन किया है , कहते हैं, । $\tau$ $X$ $\tau$ $0.25$

तो अब सवाल यह है कि इस नुकसान का कार्य पर क्यों कम किया जाएगा ? जाहिर है, के दाईं ओर समान वितरण में तीन गुना अधिक द्रव्यमान है, जबकि बाईं ओर। और नुकसान फ़ंक्शन इस संख्या से बड़े मानों को वजन से केवल एक तिहाई कम वजन देता है जो इससे कम है। इस प्रकार, यह सहज है कि तराजू संतुलित है जब नुकसान समारोह के लिए विभक्ति बिंदु के रूप में th का उपयोग किया जाता है। $m=0.25$ $m$ $\tau$

— jjet
स्रोत

1

यह दूसरा रास्ता नहीं होना चाहिए? अंडर-अनुमान लगाने में तीन गुना ज्यादा खर्च आएगा?

— एडी बाइस

उस पकड़ने के लिए धन्यवाद। सूत्र सही है, लेकिन मैंने शुरू में अपने स्पष्टीकरण में इसे गलत तरीके से लिखा था।

— jjet