काज हानि को का उपयोग करके परिभाषित किया जा सकता है और लॉग नुकसान को लॉग ( 1 + exp ( - y i w T x i ) के रूप में परिभाषित किया जा सकता है )
मेरे पास निम्नलिखित प्रश्न हैं:
क्या काज के नुकसान के कोई नुकसान हैं (जैसे कि http://www.unc.edu/~yfliu/papers/rsvm.pdf में उल्लिखित आउटलेर्स के प्रति संवेदनशील )?
एक की तुलना में दूसरे के अंतर, फायदे, नुकसान क्या हैं?
जवाबों:
लॉगरिदमिक नुकसान कम करने के लिए अच्छी तरह से व्यवहार किया जा सकता है संभाव्य आउटपुट।
काज हानि दोहरी पर कुछ (गारंटी नहीं) स्पार्सिटी की ओर जाता है, लेकिन यह संभाव्यता आकलन में मदद नहीं करता है। इसके बजाय, यह गर्भपात को दंडित करता है (यही कारण है कि मार्जिन निर्धारित करने के लिए यह बहुत उपयोगी है): कम हिंग-नुकसान मार्जिन मिसालिफिकेशन के पार कम हो जाता है।
इसलिए, संक्षेप:
लॉगरिदमिक नुकसान सटीकता की कीमत पर बेहतर संभावना आकलन की ओर जाता है
काज हानि से बेहतर सटीकता की संभावना होती है और संभाव्यता के बारे में बहुत कम संवेदनशीलता की कीमत पर कुछ विरलता होती है
@Firebug का एक अच्छा जवाब था (+1)। वास्तव में, मेरे यहाँ एक समान प्रश्न था।
लगभग 0-1 नुकसान के लिए वर्गीकरण में विभिन्न नुकसान कार्यों को चुनने के प्रभाव क्या हैं
मैं सिर्फ लॉजिस्टिक लॉस के एक और बड़े फायदे पर और अधिक जोड़ना चाहता हूं: संभाव्य व्याख्या। एक उदाहरण, यहां पाया जा सकता है
विशेष रूप से, सांख्यिकी साहित्य में लॉजिस्टिक प्रतिगमन एक शास्त्रीय मॉडल है। (देखें, "लॉजिस्टिक रिग्रेशन" नाम का क्या अर्थ है? नामकरण के लिए।) लॉजिस्टिक लॉस से संबंधित कई महत्वपूर्ण अवधारणाएं हैं, जैसे कि अधिकतम संभावना लॉग अनुमान, संभावना अनुपात परीक्षण, साथ ही द्विपद पर मान्यताओं। यहाँ कुछ संबंधित चर्चाएँ हैं।
लॉजिस्टिक रिग्रेशन को लॉजिस्टिक क्लासिफिकेशन क्यों नहीं कहा जाता है?
चूँकि @ hxd1011 ने क्रॉस एन्ट्रॉपी का लाभ जोड़ा है, मैं इसकी एक खामी जोड़ूंगा।
क्रॉस एन्ट्रापी त्रुटि संभावना वितरणों के बीच कई दूरी उपायों में से एक है, लेकिन इसका एक दोष यह है कि लंबी पूंछ वाले वितरणों को खराब घटनाओं के साथ खराब तरीके से तैयार किया जा सकता है, जो अप्रत्याशित घटनाओं के लिए बहुत अधिक वजन होता है।