भविष्यवाणियों को कैसे कम करें लॉजिस्टिक रिग्रेशन मॉडल का सही तरीका


9

इसलिए मैं मॉडलिंग (F. Harrell की "प्रतिगमन मॉडलिंग रणनीतियाँ" दूसरों पर) के बारे में कुछ किताबें (या उनके कुछ हिस्सों) पढ़ रहा हूं, क्योंकि मेरी वर्तमान स्थिति अभी है कि मुझे बाइनरी प्रतिक्रिया डेटा के आधार पर एक लॉजिस्टिक मॉडल करने की आवश्यकता है। मेरे डेटा सेट में मेरे पास निरंतर, श्रेणीबद्ध और द्विआधारी डेटा (भविष्यवक्ता) दोनों हैं। मूल रूप से मेरे पास अभी लगभग 100 भविष्यवक्ता हैं, जो स्पष्ट रूप से एक अच्छे मॉडल के लिए बहुत अधिक है। इसके अलावा, इन भविष्यवाणियों में से कई तरह से संबंधित हैं, क्योंकि वे अक्सर एक ही मीट्रिक पर आधारित होते हैं, हालांकि थोड़ा अलग।

किसी भी तरह, जो मैं पढ़ रहा हूं, अविभाजित प्रतिगमन और चरण-वार तकनीकों का उपयोग करके कुछ सबसे खराब चीजें हैं जो आप भविष्यवाणियों की मात्रा को कम करने के लिए कर सकते हैं। मुझे लगता है कि LASSO तकनीक काफी ठीक है (अगर मैं समझ गया कि यह सही ढंग से है), लेकिन जाहिर है आप सिर्फ 100 भविष्यवक्ताओं पर इसका उपयोग नहीं कर सकते हैं और सोचते हैं कि कोई भी अच्छा काम आएगा।

तो यहाँ मेरे विकल्प क्या हैं? क्या मुझे वास्तव में बस बैठना है, मेरे सभी पर्यवेक्षकों से बात करना है, और काम पर होशियार लोगों से बात करना है, और वास्तव में इस बारे में सोचना है कि शीर्ष 5 सर्वश्रेष्ठ भविष्यवक्ता क्या हो सकते हैं / (हम गलत हो सकते हैं), या कौन सा दृष्टिकोण (ईएस) चाहिए इसके बजाय विचार करें?

और हां, मुझे यह भी पता है कि इस विषय पर (ऑनलाइन और किताबों में) काफी चर्चा होती है, लेकिन कभी-कभी ऐसा लगता है कि जब आप इस मॉडलिंग क्षेत्र में नए हैं।

संपादित करें:

सबसे पहले, मेरे नमूने का आकार +1000 रोगियों (जो मेरे क्षेत्र में बहुत कुछ है), और उनमें से 70-170 सकारात्मक प्रतिक्रियाएं हैं (यानी 170 हां प्रतिक्रियाओं बनाम लगभग 900 मामलों में से एक में कोई प्रतिक्रिया नहीं) । मूल रूप से विचार विकिरण उपचार के बाद विषाक्तता की भविष्यवाणी करना है। मेरे पास कुछ संभावित द्विआधारी प्रतिक्रिया डेटा है (यानी विषाक्तता, या तो आपके पास है (1), या आप नहीं (0)), और फिर मेरे पास कई प्रकार के मैट्रिक्स हैं। कुछ मेट्रिक्स रोगी विशिष्ट होते हैं, जैसे उम्र, इस्तेमाल की जाने वाली दवाएं, अंग और लक्ष्य मात्रा, मधुमेह आदि, और फिर मेरे पास लक्ष्य के लिए सिम्युलेटेड उपचार क्षेत्र के आधार पर कुछ उपचार विशिष्ट मैट्रिक्स हैं। इससे मैं कई भविष्यवक्ताओं को पुनः प्राप्त कर सकता हूं, जो अक्सर मेरे क्षेत्र में अत्यधिक प्रासंगिक होते हैं, क्योंकि अधिकांश विषाक्तता विकिरण की मात्रा (iedose) के साथ अत्यधिक सहसंबद्ध है। इसलिए, उदाहरण के लिए, यदि मैं फेफड़े के ट्यूमर का इलाज करता हूं, तो कुछ मात्रा में खुराक के साथ हृदय को मारने का जोखिम है। मैं फिर गणना कर सकता हूं कि हृदय की मात्रा का कितना एक्स-मात्रा खुराक की एक्स-राशि प्राप्त करता है, उदाहरण के लिए " टी सिर्फ एक को शुरू करने के लिए चुनें (हालांकि यही है कि पिछले प्रयोगों ने निश्चित रूप से कोशिश की है, और मैं जो भी करना चाहता हूं), क्योंकि मुझे "वास्तव में" जानने की जरूरत है कि वास्तव में किस हद तक हृदय विषाक्तता के बीच एक बड़ा संबंध है। और वॉल्यूम खुराक (फिर से, उदाहरण के रूप में, अन्य समान मैट्रिक्स हैं, जहां एक ही रणनीति लागू होती है)। तो हाँ, यह बहुत ज्यादा है कि मेरा डेटा सेट कैसा दिखता है। कुछ अलग मेट्रिक्स, और कुछ मेट्रिक्स जो कुछ हद तक समान हैं। टी सिर्फ एक को शुरू करने के लिए चुनें (हालांकि यही है कि पिछले प्रयोगों ने निश्चित रूप से कोशिश की है, और मैं जो भी करना चाहता हूं), क्योंकि मुझे "वास्तव में" जानने की जरूरत है कि वास्तव में किस हद तक हृदय विषाक्तता के बीच एक बड़ा संबंध है। और वॉल्यूम खुराक (फिर से, उदाहरण के रूप में, अन्य समान मैट्रिक्स हैं, जहां एक ही रणनीति लागू होती है)। तो हाँ, यह बहुत ज्यादा है कि मेरा डेटा सेट कैसा दिखता है। कुछ अलग मेट्रिक्स, और कुछ मेट्रिक्स जो कुछ हद तक समान हैं। मेरा डेटा सेट कैसा दिखता है। कुछ अलग मेट्रिक्स, और कुछ मेट्रिक्स जो कुछ हद तक समान हैं। मेरा डेटा सेट कैसा दिखता है। कुछ अलग मेट्रिक्स, और कुछ मेट्रिक्स जो कुछ हद तक समान हैं।

फिर मैं जो करना चाहता हूं वह एक भविष्य कहनेवाला मॉडल है इसलिए मैं उम्मीद कर सकता हूं कि मरीजों को किसी तरह की विषाक्तता होने का जोखिम होगा। और चूंकि प्रतिक्रिया डेटा द्विआधारी है, मेरा मुख्य विचार निश्चित रूप से एक लॉजिस्टिक प्रतिगमन मॉडल का उपयोग करना था। कम से कम मेरे क्षेत्र में अन्य लोगों ने जो किया है। हालांकि, जब इन पत्रों में से कई के माध्यम से जा रहे हैं, जहां यह पहले से ही किया गया है, तो इसमें से कुछ गलत लगता है (कम से कम जब इन विशिष्ट प्रकार की मॉडलिंग पुस्तकों को पढ़ना चाहिए जैसे कि एफ। हरेल का)। कई लोग भविष्यवक्ताओं को चुनने के लिए यूनीवेट रिग्रेशन विश्लेषण का उपयोग करते हैं, और उन्हें मल्टीवेरिएट विश्लेषण (एक ऐसी चीज़ जिसके बारे में सलाह दी जाती है कि अगर मैं गलत नहीं हूँ तो मैं सलाह देता हूँ), और कई लोग भविष्यवक्ताओं की मात्रा को कम करने के लिए चरण-वार तकनीकों का उपयोग करते हैं। बेशक यह सब बुरा नहीं है। कई लोग LASSO, PCA, क्रॉस-वेलिडेशन, बूटस्ट्रैपिंग इत्यादि का उपयोग करते हैं, लेकिन जिन्हें मैंने देखा है,

सुविधा चयन के संबंध में, यह संभवत: वह जगह है जहां मैं अभी हूं। मैं अपने मॉडल में उपयोग करने के लिए सही भविष्यवाणियों का चयन / खोज कैसे करूं? मैंने इन अविभाज्य / चरण-वार दृष्टिकोणों की कोशिश की है, लेकिन हर बार मुझे लगता है: "गलत होने पर भी ऐसा क्यों?" लेकिन शायद यह दिखाने का एक अच्छा तरीका है, कम से कम अंत में, एक "अच्छे मॉडल" ने कैसे सही तरीके से किया "गलत मॉडल" के खिलाफ गलत तरीके से किया जाता है। इसलिए मैं शायद अब इसे कुछ गलत तरीके से कर सकता हूं, इसके लिए मुझे जो मदद चाहिए वह इसे सही तरीके से करने के लिए एक दिशा मिल रही है।

संपादन के लिए क्षमा करें, और यह इतना लंबा हो रहा है।

EDIT 2: मेरा डेटा कैसा दिखता है, इसका सिर्फ एक त्वरित उदाहरण:

'data.frame':   1151 obs. of  100 variables:
 $ Toxicity              : Factor w/ 2 levels "0","1": 2 1 1 1 1 1 1 1 1 1 ...
 $ Age                   : num  71.9 64 52.1 65.1 63.2 ...
 $ Diabetes              : Factor w/ 2 levels "n","y": 1 1 1 1 1 1 1 1 1 1 ...
 $ Risk.Category         : Ord.factor w/ 3 levels "LOW"<"INTERMEDIATE"<..: 1 1 1 1 2 1 1 1 1 3 ...
 $ Organ.Volume.CC       : num  136.1 56.7 66 136.6 72.8 ...
 $ Target.Volume.CC      : num  102.7 44.2 58.8 39.1 56.3 ...
 $ D1perc                : num  7961 7718 7865 7986 7890 ...
 $ D1.5CC                : num  7948 7460 7795 7983 7800 ...
 $ D1CC                  : num  7996 7614 7833 7997 7862 ...
 $ D2perc                : num  7854 7570 7810 7944 7806 ...
 $ D2.5CC                : num  7873 7174 7729 7952 7604 ...
 $ D2CC                  : num  7915 7313 7757 7969 7715 ...
 $ D3perc                : num  7737 7379 7758 7884 7671 ...
 $ D3.5CC                : num  7787 6765 7613 7913 7325 ...
 $ D3CC                  : num  7827 6953 7675 7934 7480 ...
 $ D4perc                : num  7595 7218 7715 7798 7500 ...
 $ D5perc                : num  7428 7030 7638 7676 7257 ...
 $ DMEAN                 : num  1473 1372 1580 1383 1192 ...
 $ V2000CGY              : num  24.8 23.7 25.9 22.3 19.3 ...
 $ V2000CGY_CC           : num  33.7 13.4 17.1 30.4 14 ...
 $ V2500CGY              : num  22.5 21.5 24 20.6 17.5 ...
 $ V2500CGY_CC           : num  30.7 12.2 15.9 28.2 12.7 ...
 $ V3000CGY              : num  20.6 19.6 22.4 19.1 15.9 ...
 $ V3000CGY_CC           : num  28.1 11.1 14.8 26.2 11.6 ...
 $ V3500CGY              : num  18.9 17.8 20.8 17.8 14.6 ...
 $ V3500CGY_CC           : num  25.7 10.1 13.7 24.3 10.6 ...
 $ V3900CGY              : num  17.5 16.5 19.6 16.7 13.6 ...
 $ V3900CGY_CC           : num  23.76 9.36 12.96 22.85 9.91 ...
 $ V4500CGY              : num  15.5 14.4 17.8 15.2 12.2 ...
 $ V4500CGY_CC           : num  21.12 8.18 11.76 20.82 8.88 ...
 $ V5000CGY              : num  13.9 12.8 16.4 14 11 ...
 $ V5000CGY_CC           : num  18.91 7.25 10.79 19.09 8.03 ...
 $ V5500CGY              : num  12.23 11.14 14.84 12.69 9.85 ...
 $ V5500CGY_CC           : num  16.65 6.31 9.79 17.33 7.17 ...
 $ V6000CGY              : num  10.56 9.4 13.19 11.34 8.68 ...
 $ V6000CGY_CC           : num  14.37 5.33 8.7 15.49 6.32 ...
 $ V6500CGY              : num  8.79 7.32 11.35 9.89 7.44 ...
 $ V6500CGY_CC           : num  11.96 4.15 7.49 13.51 5.42 ...
 $ V7000CGY              : num  6.76 5.07 9.25 8.27 5.86 ...
 $ V7000CGY_CC           : num  9.21 2.87 6.1 11.3 4.26 ...
 $ V7500CGY              : num  4.61 2.37 6.22 6.13 4 ...
 $ V7500CGY_CC           : num  6.27 1.34 4.11 8.38 2.91 ...
 $ V8000CGY              : num  0.7114 0.1521 0.0348 0.6731 0.1527 ...
 $ V8000CGY_CC           : num  0.9682 0.0863 0.023 0.9194 0.1112 ...
 $ V8200CGY              : num  0.087 0 0 0 0 ...
 $ V8200CGY_CC           : num  0.118 0 0 0 0 ...
 $ V8500CGY              : num  0 0 0 0 0 0 0 0 0 0 ...
 $ V8500CGY_CC           : num  0 0 0 0 0 0 0 0 0 0 ...
 $ n_0.02                : num  7443 7240 7371 7467 7350 ...
 $ n_0.03                : num  7196 6976 7168 7253 7112 ...
 $ n_0.04                : num  6977 6747 6983 7055 6895 ...
 $ n_0.05                : num  6777 6542 6811 6871 6693 ...
 $ n_0.06                : num  6592 6354 6649 6696 6503 ...
 $ n_0.07                : num  6419 6180 6496 6531 6325 ...
 $ n_0.08                : num  6255 6016 6350 6374 6155 ...
 $ n_0.09                : num  6100 5863 6211 6224 5994 ...
 $ n_0.1                 : num  5953 5717 6078 6080 5840 ...
 $ n_0.11                : num  5813 5579 5950 5942 5692 ...
 $ n_0.12                : num  5679 5447 5828 5809 5551 ...
 $ n_0.13                : num  5551 5321 5709 5681 5416 ...
 $ n_0.14                : num  5428 5201 5595 5558 5285 ...
 $ n_0.15                : num  5310 5086 5485 5439 5160 ...
 $ n_0.16                : num  5197 4975 5378 5324 5039 ...
 $ n_0.17                : num  5088 4868 5275 5213 4923 ...
 $ n_0.18                : num  4982 4765 5176 5106 4811 ...
 $ n_0.19                : num  4881 4666 5079 5002 4702 ...
 $ n_0.2                 : num  4783 4571 4985 4901 4597 ...
 $ n_0.21                : num  4688 4478 4894 4803 4496 ...
 $ n_0.22                : num  4596 4389 4806 4708 4398 ...
 $ n_0.23                : num  4507 4302 4720 4616 4303 ...
 $ n_0.24                : num  4421 4219 4636 4527 4210 ...
 $ n_0.25                : num  4337 4138 4555 4440 4121 ...
 $ n_0.26                : num  4256 4059 4476 4355 4035 ...
 $ n_0.27                : num  4178 3983 4398 4273 3951 ...
 $ n_0.28                : num  4102 3909 4323 4193 3869 ...
 $ n_0.29                : num  4027 3837 4250 4115 3790 ...
 $ n_0.3                 : num  3955 3767 4179 4039 3713 ...
 $ n_0.31                : num  3885 3699 4109 3966 3639 ...
 $ n_0.32                : num  3817 3633 4041 3894 3566 ...
 $ n_0.33                : num  3751 3569 3975 3824 3496 ...
 $ n_0.34                : num  3686 3506 3911 3755 3427 ...
 $ n_0.35                : num  3623 3445 3847 3689 3361 ...
 $ n_0.36                : num  3562 3386 3786 3624 3296 ...
 $ n_0.37                : num  3502 3328 3725 3560 3233 ...
 $ n_0.38                : num  3444 3272 3666 3498 3171 ...
 $ n_0.39                : num  3387 3217 3609 3438 3111 ...
 $ n_0.4                 : num  3332 3163 3553 3379 3053 ...
 $ n_0.41                : num  3278 3111 3498 3321 2996 ...
 $ n_0.42                : num  3225 3060 3444 3265 2941 ...
 $ n_0.43                : num  3173 3010 3391 3210 2887 ...
 $ n_0.44                : num  3123 2961 3339 3156 2834 ...
 $ n_0.45                : num  3074 2914 3289 3103 2783 ...
 $ n_0.46                : num  3026 2867 3239 3052 2733 ...
 $ n_0.47                : num  2979 2822 3191 3002 2684 ...
 $ n_0.48                : num  2933 2778 3144 2953 2637 ...
 $ n_0.49                : num  2889 2734 3097 2905 2590 ...

और अगर मैं table(data$Toxicity)आउटपुट चलाता हूं :

> table(data$Toxicity)
   0    1 
1088   63 

फिर, यह एक प्रकार की विषाक्तता के लिए है। मेरे साथ 3 अन्य लोग भी हैं।


1
आप क्या करने का लक्ष्य बना रहे हैं? भविष्यवाणी या अनुमान, या कुछ और?
Stephan Kolassa

इसे फीचर चयन कहा जाता है । यदि आपको प्रतिगमन का उपयोग करना चाहिए, तो श्रेणीबद्ध विशेषताएं एक-से-एक हो सकती हैं, लेकिन पेड़ के तरीकों के लिए आप उन्हें उपयोग कर सकते हैं-जैसा। तुम भी अपने सबसे भविष्य कहनेवाला n- रास्ता बातचीत या संघ की शर्तों को समझ सकता है, और उन का उपयोग करें।
मार्सी

"क्या मुझे वास्तव में बस बैठना है, लोगों से बात करना है, और वास्तव में टॉप-एन भविष्यवाणियों के बारे में सोचना / तर्क करना है?" नरक नहीं, अंतर्ज्ञान एक शुरुआत है, लेकिन यही कारण है कि सुविधा-चयन के तरीके हैं; प्रयोग के बहुत से परिणाम अंतर्ज्ञान धड़कता है।
मार्सी

1
@ अशुद्ध होने के लिए खेद है। तो मेरे क्षेत्र में (विकिरण ऑन्कोलॉजी) हम उपचार योजना बनाते हैं, जो मूल रूप से एक 3D प्रतिनिधित्व है कि कैसे एक लक्ष्य के आसपास विकिरण / खुराक वितरित किया जाता है। दुर्भाग्य से, यह कम से कम स्वस्थ ऊतक को मारने के बिना नहीं किया जा सकता है। इस 3 डी मैप से, इसलिए बोलने के लिए, मैं उदाहरण के बारे में जानकारी प्राप्त कर सकता हूं कि कितनी मात्रा में विकिरण / खुराक की एक्स-मात्रा प्राप्त होती है। लेकिन जैसा कि आप कल्पना कर सकते हैं, मैं "संरचना" मात्रा का 1% कितना "प्राप्त करता है" जैसे चरणों में "पूछ सकता है", और फिर 2%, 3%। सिद्धांत रूप में, मूल्य कुछ हद तक समान होंगे।
डेनवर डांग

1
@smci, अगर भविष्यवाणी ओपी लक्ष्य है, तो सहसंबंध कोई चिंता का विषय नहीं होना चाहिए। मॉडल में शामिल चर की व्याख्या करने की कोशिश करते समय चर के बीच उच्च सहसंबंध वास्तव में केवल एक बड़ी चिंता का विषय होगा।
स्टैट्सस्टूडेंट

जवाबों:


4

आपके द्वारा प्राप्त किए गए कुछ उत्तर धक्का सुविधा चयन बंद आधार हैं।

लैसो या बेहतर लोचदार शुद्ध सुविधा चयन करना होगा, लेकिन जैसा कि आप ऊपर उठाई बाहर काफी "चयनित" सुविधाओं के सेट की अस्थिरता पर निराश कर दिया जाएगा। मेरा मानना ​​है कि आपकी स्थिति में एकमात्र वास्तविक आशा डेटा कमी है, अर्थात, अप्रकाशित शिक्षा, जैसा कि मैं अपनी पुस्तक में जोर देता हूं। डेटा की कमी अधिक व्याख्या और विशेष रूप से अधिक स्थिरता लाती है। मैं गुच्छों पर नियमित प्रमुख घटकों के बाद विरल प्रमुख घटकों या चर क्लस्टर की सलाह देता हूं।

आपके डेटासेट में सूचना सामग्री विश्वसनीय होने के लिए किसी भी सुविधा चयन एल्गोरिदम के लिए बहुत दूर है, बहुत कम है।


सबसे पहले, टिप्पणी करने के लिए समय निकालने के लिए धन्यवाद। दूसरी बात, अगर मैं गलत नहीं हूँ, तो अप्रशिक्षित शिक्षा वह है जब आप प्रतिक्रिया चर (ओं) (अर्थात 1 या 0) की विशेष प्रतिक्रिया का उपयोग नहीं करते (या नहीं करते हैं), और कंप्यूटर को "अनुमान लगाते हैं" “वितरण को कैसे विभाजित किया जाना चाहिए। लेकिन लॉजिस्टिक रिग्रेशन (और लीनियर) जहां तक ​​मुझे पता है, इसकी देखरेख की जाती है? तो आप अनुशंसा करते हैं कि उस पद्धति को छोड़ दें? एक तरफ मुझे यह विचार पसंद है, लेकिन दूसरी तरफ, लॉजिस्टिक और प्रोबिट रिग्रेशन यह है कि मेरे क्षेत्र में लगभग हर मॉडलिंग पेपर (मेरा जैसा डेटा) अब तक कर रहा है।
डेनवर डांग

तो क्या मैं यहां एक अंग पर नहीं जाऊंगा, या मुझे बस यह मान लेना है कि बाकी सभी लोग इसे हमेशा के लिए "गलत" कर रहे हैं?
डेनवर डांग

3
हर कोई नहीं, लेकिन ज्यादातर लोग निश्चित रूप से गलत कर रहे हैं। यह प्रतिगमन मॉडलिंग रणनीतियाँ लिखने के लिए एक प्रमुख प्रेरक था । डेटा कमी का लक्ष्य पर्यवेक्षित अधिगम की कम मात्रा है जिसे लॉजिस्टिक प्रतिगमन करने के लिए कहा जाता है। उदाहरण के लिए आप प्रभावी रूप से 5 क्लस्टर स्कोर के लिए 100 उम्मीदवार सुविधाओं को कम कर सकते हैं, फिर केवल 5 मापदंडों + अवरोधन का अनुमान लगाना होगा।
फ्रैंक हरेल

2
आप इस मामले में अलग-अलग गुणांक मॉडल के बारे में कैसा महसूस करते हैं (जैसा कि मैंने अपने जवाब में जोड़ा है)?
बेन बोल्कर

@FrankHarrell यह दिलचस्प लगता है। लेकिन यह पूछने के लिए खेद है कि पर्यवेक्षित शिक्षण खराब क्यों है, या कम से कम कुछ बुरा है, क्योंकि ऐसा लगता है कि आप आसन्न हैं?
डेनवर डांग

8

+1 के लिए "कभी-कभी थोड़ा अटपटा लगता है"। यह वास्तव में निर्भर करता है (जैसा कि हार्ले स्पष्ट रूप से बताता है; अध्याय 4 के अंत में अनुभाग देखें) क्या आप करना चाहते हैं

  • पुष्टिकरण विश्लेषण ( पीसीए या विषय-क्षेत्र के विचार या ... द्वारा प्रतिक्रियाओं को देखे बिना अपने भविष्यवक्ता जटिलता को उचित स्तर तक कम करें।)
  • भविष्य कहनेवाला विश्लेषण (उपयुक्त दंड विधि का उपयोग करें)। यदि आपके पास एक बड़ा नमूना है, तो 100 पूर्वानुमानों के साथ लासो बहुत अच्छी तरह से काम कर सकता है। फीचर का चयन अस्थिर होगा, लेकिन यह ठीक है अगर आप सभी की परवाह करते हैं तो यह भविष्यवाणी है। मेरे पास रिज-जैसे दृष्टिकोणों के लिए एक व्यक्तिगत प्राथमिकता है जो तकनीकी रूप से "सुविधाओं का चयन नहीं करते हैं" (क्योंकि वे बिल्कुल शून्य करने के लिए किसी भी पैरामीटर को कम नहीं करते हैं), लेकिन जो भी काम करता है ...

    आपको दंड की डिग्री चुनने के लिए क्रॉस-वैलिडेशन का उपयोग करना होगा, जो आपकी योग्यता को नष्ट करने की क्षमता को नष्ट कर देगा (जब तक कि भविष्यवाणियों पर विश्वास अंतराल का निर्माण न करें) जब तक कि आप अत्याधुनिक उच्च-आयामी इंजेक्शन विधियों (जैसे डेज़्यूर एट अल 2015 ; ) का उपयोग न करें ; है इन तरीकों की कोशिश की लेकिन वे समझदार लगते हैं ...)

  • खोजपूर्ण विश्लेषण: मज़ेदार हो, पारदर्शी और ईमानदार हो, किसी भी पी-वैल्यू को उद्धृत न करें।

आपके द्वारा अब तक वर्णित विशेष उपयोग के मामले में (आपके भविष्यवक्ताओं का एक गुच्छा अनिवार्य रूप से हृदय के विभिन्न भागों द्वारा प्राप्त खुराक के संचयी वितरण का प्रतिनिधित्व करता है), आप अलग-अलग गुणांक मॉडल (खोज करने के लिए थोड़ा कठिन) में देखना चाह सकते हैं , जो मूल रूप से सीडीएफ के प्रभाव के लिए एक चिकनी वक्र फिट करते हैं (इन्हें आर के mgcvपैकेज में लागू किया जा सकता है )।


मेरा नमूना आकार +1000 है, और यह निर्भर करता है कि किस प्रतिक्रिया चर (मेरे पास 4 है), मेरे पास 75-170 सकारात्मक (या नकारात्मक, इस पर निर्भर करता है कि आप इसे कैसे देखते हैं) +1000 की प्रतिक्रियाएं हैं। मुझे नहीं पता कि क्या कुछ आसान है, यानी मैं कुछ कदमों को खारिज कर सकता हूं क्योंकि नमूना सेट बहुत बड़ा है (कम से कम मेरे क्षेत्र में)।
डेनवर डांग

क्या सत्यापन पार करने की क्षमता को नष्ट कर देगा? शायद। मैं सोच रहा हूं कि भविष्यवाणियों के लिए विश्वास अंतराल प्राप्त करने के लिए क्रॉस सत्यापन से पहले एक बूटस्ट्रैप हो सकता है। यह 1000 टिप्पणियों के साथ संभव है।
JTH

चयन के बाद निष्कर्ष वास्तव में कठिन है; यदि आप हाइपरपरमेटर्स (जैसे दंड की ताकत) को ट्यून करने के लिए पूरे डेटा सेट का उपयोग करते हैं, तो आप उसी स्थिति में हैं। इससे पहले कि मैं यह कहूं कि क्या मुझे विश्वास है कि यह काम कर सकता है ... आपको अपने बूटस्ट्रैप + सीवी दृष्टिकोण को रेखांकित करना होगा ...
बेन बोल्कर

0

कई अलग-अलग दृष्टिकोण हैं। मैं जो सुझाऊंगा वह कुछ सरल लोगों को आजमा रहा है, निम्नलिखित क्रम में:

  • एल 1 नियमितीकरण (बढ़ते दंड के साथ; नियमितीकरण गुणांक जितना बड़ा होगा, उतनी अधिक विशेषताएं समाप्त हो जाएंगी)
  • रिकर्सिव फ़ीचर एलिमिनेशन ( https://scikit-learn.org/stable/modules/feature_selection.html#recursive-feature-elimination ) - सबसे छोटे मॉडल गुणांक से जुड़ी सुविधाओं को समाप्त करके सुविधाओं को हटाता है (यह मानते हुए कि वे कम से कम हैं एक बार महत्वपूर्ण; जाहिर है, यह यहाँ बहुत महत्वपूर्ण है इनपुट सुविधाओं को सामान्य करने के लिए)
  • अनुक्रमिक फ़ीचर चयन ( http://rasbt.github.io/mlxtend/user_guide/feature_selection/SequentialFeatureSelector/ ) - पूर्वानुमान प्रदर्शन के लिए वे कितने महत्वपूर्ण हैं, इसके आधार पर सुविधाओं को हटा देता है

1
मुझे विश्वास है कि इन तीनों विधियों को अस्थिर पाया जाएगा।
फ्रैंक हरेल

यह इस बात पर निर्भर करता है कि आप अस्थिर कैसे परिभाषित करते हैं। व्यवहार में, आप आमतौर पर क्रॉस-वैलिडेशन जैसे कि-फोल्ड या लीव-वन-आउट और जज का उपयोग करते हैं, जो समग्र प्रदर्शन + विचरण (aka 1SE विधि) के आधार पर होता है, जो आपको चुनने की सुविधा प्रदान करता है।
21:39 पर रीसेट करें

बूटस्ट्रैपिंग और क्रॉस-वेलिडेशन केवल मॉडल उत्पन्न करने वाली प्रक्रिया के लिए कुछ पूर्वानुमान सूचक को मान्य करते हैं। यह उस प्रक्रिया का उपयोग करके चयनित मॉडल के लिए उस सूचकांक के एक अच्छे अनुमान के परिणामस्वरूप होता है, लेकिन एक मॉडल की संरचना के लिए कोई आराम प्रदान नहीं करता है जिसे एक बार विकसित किया गया था, अर्थात, समग्र मॉडल। वाष्पशीलता को देखने के लिए चुने गए ढांचे (यानी, चयनित सुविधाओं) को रेसामों में देखें।
फ्रैंक हरेल
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.