क्या निर्णय ट्री एल्गोरिदम रैखिक या अरेखीय हैं

Question

हाल ही में मेरे एक दोस्त से पूछा गया था कि क्या एक साक्षात्कार में निर्णय ट्री एल्गोरिदम रैखिक या nonlinear एल्गोरिदम हैं। मैंने इस सवाल का जवाब तलाशने की कोशिश की, लेकिन कोई संतोषजनक स्पष्टीकरण नहीं मिला। क्या कोई इस प्रश्न के समाधान का उत्तर और व्याख्या कर सकता है? इसके अलावा, nonlinear मशीन लर्निंग एल्गोरिदम के कुछ अन्य उदाहरण क्या हैं?

Comments

आश्चर्य है कि किस संदर्भ में उनका मतलब है, प्रतिगमन, रैखिक रूप से वियोज्य डेटा?

— image_doctor

उनका मतलब शायद वर्गों के बीच की सीमा था; यह हाइपरप्लेन से बना है या नहीं।

— एमर

Answer 1

एक निर्णय वृक्ष का एक गैर-रेखीय मानचित्रण Xहै y। यह देखना आसान है कि क्या आप एक मनमाना कार्य करते हैं और इसकी अधिकतम गहराई तक एक पेड़ बनाते हैं।

उदाहरण के लिए:

if x = 1, y = 1
if x = 2, y = 15
if x = 3, y = 3
if x = 4, y = 27
...

बेशक, यह पूरी तरह से ओवर-फिट पेड़ है और यह सामान्य नहीं होगा। लेकिन यह दर्शाता है कि एक निर्णय वृक्ष एक गैर-रैखिक मानचित्रण क्यों है।

Answer 2

हाल ही में मेरे एक मित्र से पूछा गया था कि क्या निर्णय वृक्ष एक साक्षात्कार में रैखिक या अरेखीय एल्गोरिथ्म का निर्णय लेता है

निर्णय के पेड़ तंत्रिका नेटवर्क की तरह एक गैर-रेखीय वर्गीकारक है, यह आमतौर पर गैर-रैखिक रूप से अलग करने योग्य डेटा को वर्गीकृत करने के लिए उपयोग किया जाता है।

जब आप प्रतिगमन उदाहरण पर विचार करते हैं, तो भी निर्णय वृक्ष गैर-रैखिक होता है।

उदाहरण के लिए, एक रेखीय प्रतिगमन रेखा कुछ इस तरह दिखाई देगी:

लाल बिंदु डेटा बिंदु हैं।

और एक निर्णय पेड़ प्रतिगमन भूखंड कुछ इस तरह दिखेगा:

तो, स्पष्ट रूप से निर्णय वृक्ष गैर-रैखिक हैं

Comments

पेड़ की गहराई बढ़ाने से अधिक ओवरफिटिंग हो सकती है, और इस तरह एक अधिक गैर-रैखिक संरचना होगी।

— Dawny33

Answer 3

निर्णय वृक्ष गैर रेखीय होते हैं। रैखिक प्रतिगमन के विपरीत स्वतंत्र और आश्रित चर के बीच संबंध व्यक्त करने के लिए कोई समीकरण नहीं है।

उदाहरण के लिए:

रैखिक प्रतिगमन - फल की कीमत = b0 + b1 * ताजगी + b2 * आकार

निर्णय वृक्ष - नोड्स: परिपक्व - हाँ या नहीं | ताजा - हाँ या नहीं | आकार - <5,> 5 लेकिन <10 और> 10 |

दूसरे मामले में स्वतंत्र और आश्रित चर के बीच कोई रैखिक संबंध नहीं है।

Answer 4

जैसा कि कई ने कहा, एक प्रतिगमन / निर्णय पेड़ एक गैर-रेखीय मॉडल है। ध्यान दें कि यह एक टुकड़ा रेखीय मॉडल है: प्रत्येक पड़ोस में (गैर-रेखीय तरीके से परिभाषित), यह रैखिक है। वास्तव में, मॉडल सिर्फ एक स्थानीय स्थिरांक है।

$\theta$

$$y_i = \alpha_1 1(x_i < \theta) + \alpha_2 1(x_i \geq \theta) + \epsilon_i$$

$1(A)$

Answer 5

$VC$$2^d$$d$$2^{2^d}$$m$$d$$min(2^d, m)$ID3C4.5