"डबल लैस्सो" या दो बार लैस्सो करने के फायदे?


26

मैंने एक बार दो बार लासो का उपयोग करने की एक विधि (एक डबल-लासो की तरह) सुनी थी जहाँ आप चर के मूल सेट पर लासो प्रदर्शन करते हैं, S1 कहते हैं, S2 नामक एक विरल सेट प्राप्त करें, और फिर सेट S2 प्राप्त करने के लिए S2 पर फिर से सेट करें। । क्या इसके लिए कोई कार्यप्रणाली शब्द है? इसके अलावा, दो बार लासो करने के क्या फायदे हैं?

जवाबों:


23

हां, आप जिस प्रक्रिया (या सोच) के बारे में पूछ रहे हैं उसे आराम से लसो कहा जाता है ।

सामान्य विचार यह है कि पहली बार LASSO के प्रदर्शन की प्रक्रिया में आप संभवतः "शोर चर" सहित हैं; वेरिएबल्स के दूसरे सेट पर (पहले LASSO के बाद) LASSO का प्रदर्शन वैरिएबल के बीच कम प्रतिस्पर्धा देता है जो मॉडल का हिस्सा होने के लिए "वास्तविक प्रतियोगी" हैं और न कि केवल "शोर" वेरिएबल। तकनीकी रूप से, इस पद्धति का उद्देश्य बड़ी संख्या में चरों के साथ डेटासेट में LASSO के (ज्ञात) धीमे अभिसरण को दूर करना है।

आप इसके बारे में और अधिक मूल पेपर पर Meinshausen (2007) में पढ़ सकते हैं ।

मैं सांख्यिकीय लर्निंग (हेस्टी, टिबशिरानी और फ्रीडमैन, 2008) के तत्वों पर खंड 3.8.5 की भी सिफारिश करता हूं , जो कि LASSO का उपयोग करके चर चयन करने के लिए अन्य बहुत ही दिलचस्प तरीकों का अवलोकन देता है।


धन्यवाद! मैं निश्चित रूप से Meinshausen के लेख में देखूंगा।
१at:

19

यह विचार लैस्सो के दो प्रभावों को अलग करने के लिए है

  1. β
  2. β

पी>>n

आराम से लसो का विचार यह है कि आप दो प्रभावों को अलग करते हैं: आप चर का चयन करने के लिए पहले पास पर एक उच्च दंड का उपयोग करते हैं; और दूसरी राशि पर एक छोटा जुर्माना उन्हें एक छोटी राशि द्वारा सिकोड़ने के लिए।

मूल पेपर (जैसा कि नेस्टर द्वारा लिंक किया गया है) अधिक विस्तार देता है।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.