डेटा मैट्रिक्स के विकर्ण होने पर लैस्सो समस्या के लिए बंद फॉर्म समाधान

$\newcommand{\diag}{\operatorname{diag}}$ हमें समस्या है: इस धारणा के साथ:

min_{w \in R^{d}} (\frac{1}{n} \sum_{i = 1}^{n} {(⟨ w, x_{i} ⟩ - y_{i})}^{2} + 2 λ | | w | |_{1}),

$\min_{w\in\mathbb{R}^{d}}\left( \frac{1}{n}\sum_{i=1}^{n} \left( \langle w,x_{i}\rangle-y_{i} \right)^{2} +2\lambda||w||_1\right),$

\sum_{i = 1}^{n} x_{i} x_{i}^{T} = diag (σ_{1}^{2}, . . ., σ_{d}^{2}) .

$\sum_{i=1}^nx_ix_i^T=\diag(\sigma_1^2,...,\sigma_d^2).$

क्या इस मामले में एक बंद-रूप समाधान है?

मेरे पास वह है:

(X^{T} X)^{- 1} = diag (σ_{1}^{- 2}, . . ., σ_{d}^{- 2}),

$(X^TX)^{-1}=\diag\left(\sigma_1^{-2},...,\sigma_d^{-2}\right),$ और इसलिए मुझे लगता है कि उत्तर है :

w^{j} = y^{j} max {0, 1 - λ \frac{n}{| y^{j} |}},

$w\,^j=y\,^j\max\left\{0,1-\lambda \frac{n}{|y^j|}\right\},$ के लिए

y^{j} = \sum_{i = 1}^{n} \frac{y_{i} x_{i}^{j}}{σ_{i}^{2}}

$y\,^j=\displaystyle\sum_{i=1}^n\frac{y_ix_i\,^j}{\sigma_i^2}$ , लेकिन मुझे यकीन नहीं है।

— आर्थर डी।
स्रोत

जब $X^T X = I$ , यहां पाया गया तो मामूली संशोधनों के साथ, बंद फॉर्म लैस्सो समाधान के कार्डिनल व्युत्पन्न के माध्यम से जाने जा रहा हूं ।

मुझे लगता है कि यह सोचते हो जाएगा सभी के लिए । यह उचित है क्योंकि अगर हमारे पास एक तो यह हमें बताता है कि का th कॉलम सभी 0 है, और मुझे लगता है कि इस तरह के मामले को बाहर करना उचित है। मैं दूँगा । ध्यान दें कि इसका मतलब यह भी है कि पूर्ण रैंक है और OLS solution विशिष्ट रूप से परिभाषित है। $\sigma^2_i > 0$ $i$ $\sigma^2_i = 0$ $i$ $X$ $X^T X = D$ $X$ $\hat \beta$

मैं आपके नोटेशन को बेहतर मिलान के लिए संशोधित करने जा रहा हूं कि मैं जिस उत्तर का संदर्भ दे रहा हूं। उस अंत तक, मैं

{\hat{β}}_{λ} = {argmin}_{β \in R^{p}} \frac{1}{2} | | Y - X β | |_{2}^{2} + λ | | β | |_{1} .

$\hat \beta_\lambda = \text{argmin}_{\beta \in \mathbb R^p } \frac 12 \vert \vert Y - X\beta\vert \vert^2_2 + \lambda \vert \vert \beta \vert \vert_1.$

यह आपकी समस्या के समान है, लेकिन यदि आप चाहें तो मैं यहां और विवरण जोड़ सकता हूं।

@ कार्डिनल की व्युत्पत्ति के बाद, हमारे पास यह है कि हमें को हल करना होगा

{\hat{β}}_{λ} = argmin \frac{1}{2} (Y^{T} Y - 2 Y^{T} X β + β^{T} X^{T} X β) + λ | | β | |_{1}

$\hat \beta_\lambda = \text{argmin } \frac 12 (Y^T Y - 2 Y^T X \beta + \beta^T X^T X \beta) + \lambda \vert \vert \beta \vert \vert_1$

= argmin - Y^{T} X β + \frac{1}{2} β^{T} D β + λ | | β | |_{1} .

$= \text{argmin } -Y^T X \beta + \frac 12 \beta^T D \beta + \lambda \vert \vert \beta \vert \vert_1.$

यह देखते हुए कि OLS समाधान , हमारे पास वह $\hat \beta = (X^T X)^{-1} X^T Y = D^{-1}X^T Y$

{\hat{β}}_{λ} = argmin - {\hat{β}}^{T} D β + \frac{1}{2} β^{T} D β + λ | | β | |_{1}

$\hat \beta_\lambda = \text{argmin } -\hat \beta^T D \beta + \frac 12 \beta^T D \beta + \lambda \vert \vert \beta \vert \vert_1$

= argmin \sum_{j = 1}^{p} - {\hat{β}}_{j} β_{j} σ_{j}^{2} + \frac{σ_{j}^{2}}{2} β_{j}^{2} + λ | β_{j} | .

$= \text{argmin } \sum_{j=1}^p -\hat \beta_j \beta_j \sigma^2_j + \frac{\sigma^2_j}2 \beta_j^2 + \lambda | \beta_j|.$

हम प्रत्येक अलग से अनुकूलन कर रहे हैं , इसलिए हम इस राशि के प्रत्येक शब्द को अलग-अलग हल कर सकते हैं। इसका मतलब है कि हमें को छोटा करने की आवश्यकता है जहां $\beta_j$ $\mathcal L_j$

L_{j} = - {\hat{β}}_{j} β_{j} σ_{j}^{2} + \frac{σ_{j}^{2}}{2} β_{j}^{2} + λ | β_{j} | .

$\mathcal L_j = -\hat \beta_j \beta_j \sigma^2_j + \frac{\sigma^2_j}2 \beta_j^2 + \lambda | \beta_j|.$

लिंक किए गए उत्तर के लिए एक पूरी तरह से विनम्र तर्क के बाद, हम पाते हैं कि

({\hat{β}}_{λ})_{j} = s g n ({\hat{β}}_{j}) {(| {\hat{β}}_{j} | - \frac{λ}{σ_{j}^{2}})}^{+} .

$(\hat \beta_\lambda)_j = \mathrm{sgn}(\hat \beta_j) \left(|\hat \beta_j| - \frac{\lambda}{\sigma^2_j}\right)^+.$

इसके अलावा, इसलिए हमारे पास वह $\hat \beta = D^{-1} X^T Y \implies \hat \beta_j = \frac{X_j^T Y}{\sigma_j^2}$

{(| {\hat{β}}_{j} | - \frac{λ}{σ_{j}^{2}})}^{+} = \frac{1}{σ_{j}^{2}} {(| X_{j}^{T} Y | - λ)}^{+}

$\left(|\hat \beta_j| - \frac{\lambda}{\sigma^2_j}\right)^+ = \frac 1 {\sigma^2_j} \left(|X_j^T Y| - \lambda\right)^+$

इसलिए यह पता चला है कि एक भविष्यवक्ता बिल्कुल हो जाता है जब यह होगा कि डिजाइन मैट्रिक्स असामान्य था, न कि केवल ऑर्थोगोनल। तो हम देख सकते हैं कि इस मामले में , चर चयन से भिन्न नहीं है , लेकिन वास्तविक गुणांक की भविष्यवाणी अनुसार की जाती है। $X_j$ $X^T X = D \neq I$ $X^T X = I$ $\hat \beta_\lambda$

अंतिम नोट के रूप में, मैं इस समाधान को एक में बदल दूंगा, जो आपका जैसा दिखता है, जिसका अर्थ है कि हमें को पाने के लिए कुछ करके को गुणा करना होगा । यदि तो हमारे पास $\hat \beta$ $\hat \beta_\lambda$ $(\hat \beta_\lambda)_j \neq 0$

({\hat{β}}_{λ})_{j} = sgn ({\hat{β}}_{j}) (| {\hat{β}}_{j} | - \frac{λ}{σ_{j}^{2}}) = {\hat{β}}_{j} - sgn ({\hat{β}}_{j}) \frac{λ}{σ_{j}^{2}}

$(\hat \beta_\lambda)_j = \text{sgn}(\hat \beta_j) \left( \vert \hat \beta_j \vert - \frac{\lambda}{\sigma^2_j} \right) = \hat \beta_j - \text{sgn}(\hat \beta_j) \frac{\lambda}{\sigma^2_j}$

= {\hat{β}}_{j} (1 - \frac{λ}{σ_{j}^{2} | {\hat{β}}_{j} |})

$= \hat \beta_j \left( 1 - \frac{\lambda}{\sigma^2_j \vert \hat \beta_j \vert} \right)$

चूँकि । $\frac{a}{\vert a \vert} = \text{sgn}(a)$

यह देखते हुए कि ठीक उसी समय जब $(\hat \beta_\lambda)_j = 0$

| {\hat{β}}_{j} | - \frac{λ}{σ_{j}^{2}} \leq 0 ⟺ | {\hat{β}}_{j} | \leq \frac{λ}{σ_{j}^{2}} ⟺ 1 \leq \frac{λ}{σ_{j}^{2} | {\hat{β}}_{j} |} ⟺ 1 - \frac{λ}{σ_{j}^{2} | {\hat{β}}_{j} |} \leq 0,

$\vert \hat \beta_j \vert - \frac{\lambda}{\sigma^2_j} \leq 0 \iff \vert \hat \beta_j \vert \leq \frac{\lambda}{\sigma^2_j} \iff 1 \leq \frac{\lambda}{\sigma^2_j \vert \hat \beta_j \vert} \iff 1 - \frac{\lambda}{\sigma^2_j \vert \hat \beta_j \vert} \leq 0,$

हम देखते हैं कि हम वैकल्पिक रूप से रूप में व्यक्त कर सकते हैं $\hat \beta_\lambda$

({\hat{β}}_{λ})_{j} = {\hat{β}}_{j} {(1 - \frac{λ}{σ_{j}^{2} | {\hat{β}}_{j} |})}^{+} .

$(\hat \beta_\lambda)_j = \hat \beta_j \left( 1 - \frac{\lambda}{\sigma^2_j \vert \hat \beta_j \vert} \right)^+.$

तो यह आपके पास बहुत करीब है, लेकिन बिल्कुल समान नहीं था।

मैं हमेशा अच्छी तरह से ज्ञात पुस्तकालयों के खिलाफ इस तरह से व्युत्पन्न की जांच करना पसंद करता हूं, इसलिए यहां आर में एक उदाहरण है:

## generating `x`
set.seed(1)
n = 1000
p = 5
sigma2s = 1:p
x = svd(matrix(rnorm(n * p), n, p))$u %*% diag(sqrt(sigma2s))

## check this
# t(x) %*% x

## generating `y`
betas = 1:p
y = x %*% betas + rnorm(nrow(x), 0, .5)

lambda = 2

## using a well-known library to fit lasso
library(penalized)
penalized(y, x, lambda1 = lambda)@penalized


## using closed form solution
betahat = lm(y ~ x - 1)$coef
ifelse(betahat > 0, 1, -1) * sapply(abs(betahat) - lambda / sigma2s, function(v) max(c(0, v)))

— जेएलडी
स्रोत