एल 2 मानक नुकसान का एक अनूठा समाधान क्यों है और एल 1 मानक नुकसान का संभवतः कई समाधान हैं?

Question

http://www.chioka.in/differences-between-l1-and-l2-as-loss-function-and-regularization/

यदि आप इस पोस्ट के शीर्ष पर देखते हैं, तो लेखक का उल्लेख है कि L2 मानदंड में एक अनूठा समाधान है और L1 मानदंड में संभवतः कई समाधान हैं। मैं इसे नियमितीकरण के संदर्भ में समझता हूं, लेकिन नुकसान फ़ंक्शन में एल 1 मानदंड या एल 2 मानक का उपयोग करने के संदर्भ में नहीं।

यदि आप स्केलर x (x ^ 2 और | x |) के फ़ंक्शंस के ग्राफ़ को देखें, तो आप आसानी से देख सकते हैं कि दोनों में एक अनूठा समाधान है।

Comments

"fnx"? ... कृपया इसे स्पष्ट करने के लिए संपादित करें। क्या आपका मतलब "कार्य" है?

— Glen_b -Reinstate Monica

Answer 1

आइए सरलतम संभव प्रदर्शनी के लिए एक आयामी समस्या पर विचार करें। (उच्च आयामी मामलों में समान गुण होते हैं।)

$|x-\mu|$$(x-\mu)^2$$\sum_i |x_i-\mu|$$x_1=1$$x_2=3$

$\mu$

$L_1$

$\sum_i (x_i-\mu)^2 = n(\bar{x}-\mu)^2+k(\mathbf{x})$

---

$L_1$

चूंकि (कुछ विशिष्ट परिस्थितियों के बाहर) आपके पास आमतौर पर कोई अत्यधिक प्रभावशाली टिप्पणियों की ऐसी कोई गारंटी नहीं है, मैं एल 1-प्रतिगमन को मजबूत नहीं कहूंगा।

---

प्लॉट के लिए आर कोड:

 fi <- function(x,i=0) abs(x-i)
 f <- function(x) fi(x,1)+fi(x,3)
 plot(f,-1,5,ylim=c(0,6),col="blue",lwd=2)
 curve(fi(x,1),-1,5,lty=3,col="dimgrey",add=TRUE)
 curve(fi(x,3),-1,5,lty=3,col="dimgrey",add=TRUE)

Comments

यह भी खूब रही। ग्राफ बनाने के लिए आपने किस सॉफ्टवेयर का उपयोग किया?

— user3180

R. यह सिर्फ बेस ग्राफिक्स में किया जाता है। मैंने अपने उत्तर के अंत में कोड जोड़ा है।

— Glen_b -Reinstate मोनिका

वाह, कभी नहीं एहसास हुआ कि आप एक समारोह में आपूर्ति कर सकते हैं plot। दिमाग चकरा गया है।

— JAD

Answer 2

L2 नुकसान को कम करना अंकगणित माध्य की गणना करने के लिए मेल खाता है, जो कि असंदिग्ध है, जबकि L1 की हानि को कम करना माध्यिका की गणना करने के लिए मेल खाता है, जो अस्पष्ट है अगर तत्वों की एक भी संख्या को माध्यिका गणना में शामिल किया जाता है ( केंद्रीय प्रवृत्ति देखें : परिवर्तन संबंधी समस्याओं का समाधान )।