आप वर्गीकरण में एलडीए के बजाय पीसीए का उपयोग कब करेंगे?

Question

मैं इस लेख को प्रिंसिपल कंपोनेंट एनालिसिस और मल्टीपल डिस्क्रिमिनेंट एनालिसिस (रैखिक डिस्क्रिमिनेंट एनालिसिस) के बीच के अंतर पर पढ़ रहा हूँ , और मैं यह समझने की कोशिश कर रहा हूँ कि आप एमडीए / एलडीए के बजाय कभी पीसीए का उपयोग क्यों करेंगे।

विवरण इस प्रकार संक्षेप में प्रस्तुत किया गया है:

पीसीए में मोटे तौर पर बोलते हुए हम उन अक्षों को खोजने की कोशिश कर रहे हैं, जहां अधिकतम परिवर्तन होते हैं, जहां डेटा सबसे अधिक फैलता है (एक वर्ग के भीतर, चूंकि पीसीए पूरे डेटा को एक वर्ग के रूप में सेट करता है), और एमडीए में हम कक्षाओं के बीच प्रसार को अधिकतम कर रहे हैं।

क्या आप हमेशा विचरण को अधिकतम और कक्षाओं के बीच प्रसार को अधिकतम नहीं करना चाहेंगे?

Comments

माफ करना, मैं कई विभेदक विश्लेषण जो भी कई रैखिक विभेदक विश्लेषण कहा जा रहा है मतलब

— क्रिस

आपको अपने प्रश्न को स्पष्ट करना चाहिए, क्योंकि अब तक यह तुच्छ है: आपको एमडीए पर पीसीए को प्राथमिकता देनी चाहिए, जब आपके डेटा में कोई वर्ग भेदभाव न हो। मुझे लगता है कि आपको यह निर्दिष्ट करना चाहिए कि यह प्रश्न में वर्गीकरण के बारे में है।

— Firebug

एलडीए एमडीए की तुलना में बहुत अधिक सामान्य शब्द है। "एकाधिक रैखिक" कहने की आवश्यकता नहीं है, "रैखिक" पर्याप्त है।

— अमीबा १

Answer 1

आप कुछ गहरा याद कर रहे हैं: पीसीए एक वर्गीकरण विधि नहीं है।

मशीन लर्निंग में पीसीए को एक फीचर इंजीनियरिंग पद्धति के रूप में माना जाता है। जब आप अपने डेटा पर पीसीए लागू करते हैं तो आप गारंटी देते हैं कि परिणामी सुविधाओं के बीच कोई संबंध नहीं होगा। कई वर्गीकरण एल्गोरिदम से लाभ होता है।

आपको हमेशा ध्यान में रखना होगा कि एल्गोरिदम की डेटा पर धारणा हो सकती है, और यदि ऐसी धारणाएं नहीं हैं, तो वे कमजोर पड़ सकती हैं।

LDA को डेटा प्रोजेक्ट करने के लिए एक सहसंयोजक मैट्रिक्स व्युत्क्रम की गणना करनी चाहिए (इन थ्रेड्स और उत्तरों की जांच करें: क्या मुझे वर्गीकरण करने से पहले पीसीए का प्रदर्शन करना चाहिए? और क्या पीसीए और एलडीए को संयोजित करने का कोई मतलब है? )। यदि आपके पास कुछ डेटा है, तो यह अस्थिर है, और आपको अपने डेटा बिंदुओं की ओर ओवरफ़ीड अनुमान प्राप्त होते हैं, अर्थात एक वर्ग के भीतर सह-वर्गीय मैट्रिक्स। पीसीए का उपयोग आमतौर पर उस समस्या से बचने के लिए किया जाता है, जिससे समस्या की गंभीरता को कम किया जा सके।

तो जवाब है कि आप कभी भी वर्गीकरण करने के लिए पीसीए का उपयोग नहीं करते हैं, लेकिन आप इसका उपयोग एलडीए के प्रदर्शन को बेहतर बनाने के लिए कर सकते हैं।

Answer 2

जबकि फायरबग द्वारा प्रीवियस जवाब सही है, मैं एक और परिप्रेक्ष्य जोड़ना चाहता हूं:

अनुपयोगी बनाम पर्यवेक्षित शिक्षण:

एलडीए आयामों को खोजने के लिए बहुत उपयोगी है जो कि क्लस्टरिंग क्लस्टर का उद्देश्य है, इस प्रकार आपको पहले क्लस्टर को जानना होगा। LDA neccesately एक वर्गीकरण नहीं है, लेकिन एक के रूप में इस्तेमाल किया जा सकता है। इस प्रकार एलडीए का उपयोग केवल पर्यवेक्षित शिक्षण में किया जा सकता है

पीसीए निंदा और आयामीता में कमी के लिए एक सामान्य दृष्टिकोण है और पर्यवेक्षित शिक्षण में क्लास लेबल जैसे किसी भी आगे की जानकारी की आवश्यकता नहीं है। इसलिए इसका उपयोग अप्रशिक्षित शिक्षा में किया जा सकता है।

Comments

+1, विशेषकर के लिए LDA is not neccesarily a classifier। इस संबंधित प्रश्न को पढ़ने के लिए एक पाठक (ओपी, भी) की सिफारिश की जाती है: एलडीए, एक वर्गीकरण तकनीक, कैसे पीसीए जैसी आयामी कमी तकनीक के रूप में भी कार्य करती है ।

— ttnphns

और यहाँ उत्तर आउटपुट और एलडीए और पीसीए के भूखंडों की तुलना मंद के रूप में करते हैं। कटौती।

— ttnphns

(+1) एलडीए वास्तव में एक आयाम में कमी तकनीक है, फिशर के रैखिक भेदभाव का एक सामान्यीकरण है, जिसे लोग आमतौर पर एक वर्गीकरण मानदंड के रूप में मानते हैं।

— फायरबग

Answer 3

LDA का उपयोग बहुआयामी स्थान को ऊपर उठाने के लिए किया जाता है।

पीसीए का उपयोग बहुआयामी अंतरिक्ष को ढहाने के लिए किया जाता है।

उदाहरण के लिए: 3 डी ऑब्जेक्ट्स ने 2 डी छाया डाली। पीसीए अक्सर 70% - 90% महत्वपूर्ण जानकारी को संरक्षित करते हुए हमें सैकड़ों स्थानिक आयामों को कम स्थानिक आयाम में ढहने की अनुमति देता है।

बस मैं आपके हाथ की आकृति और आकार को छाया से कैसे देख सकता हूं। मैं आपको अपने हाथ के आकार के बारे में सब कुछ नहीं बता सकता। लेकिन इष्टतम ज्ञात कोण से 3 या 4 छाया का एक संग्रह होने से। तब मैं आपको हाथ के आकार और आकार के बारे में अधिकांश बातें बता सकता था।