क्लस्टरिंग: क्या मुझे जेन्सेन-शैनन डायवर्जेंस या इसके वर्ग का उपयोग करना चाहिए?

Question

मैं एफर्टिनिटी प्रॉपेगोरिथम एल्गोरिथ्म का उपयोग करके प्रायिकता के वितरण को रोक रहा हूं, और मेरी दूरी मीट्रिक के रूप में जेन्सेन-शैनन डाइवर्जेंस का उपयोग करने की है।

क्या जेएसडी को दूरी, या जेएसडी वर्ग के रूप में उपयोग करना सही है? क्यों? एक या दूसरे को चुनने से क्या अंतर होगा?

Answer 1

मुझे लगता है कि यह इस पर निर्भर करता है कि इसका उपयोग कैसे किया जाना है।

बस अन्य पाठकों के लिए संदर्भ के लिए, यदि और Q संभाव्यता के उपाय हैं, तो जेन्सेन-शैनन डायवर्जेंस J ( P , Q ) = $P$$Q$

$$J(P,Q) = \frac{1}{2} \big( D(P \mid\mid R) + D(Q\mid\mid R) \big)$$ $R = \frac{1}{2} (P + Q)$$D(\cdot\mid\mid\cdot)$

अब, मुझे जेन्सेन-शैनन डाइवर्जेंस के वर्गमूल का उपयोग करने के लिए लुभाया जाएगा क्योंकि यह एक मीट्रिक है , अर्थात यह एक दूरी माप के सभी "सहज" गुणों को संतुष्ट करता है।

इस पर अधिक जानकारी के लिए, देखें

Endres और Schindelin, संभावना वितरण के लिए एक नया मीट्रिक , IEEE ट्रांस। जानकारी पर। तेरा। , वॉल्यूम। ४ ९, सं। 3, जुलाई 2003, पीपी। 1858-1860।

बेशक, कुछ अर्थों में, यह इस बात पर निर्भर करता है कि आपको इसके लिए क्या चाहिए। यदि आप सभी के लिए इसका उपयोग कर रहे हैं, कुछ जोड़ीदार माप का मूल्यांकन करना है, तो JSD का कोई भी मोनोटोनिक परिवर्तन काम करेगा। यदि आप किसी ऐसी चीज़ की तलाश कर रहे हैं जो "स्क्वेर्ड-डिस्टेंस" के सबसे करीब है, तो जेएसडी ही एक समान मात्रा है।

संयोग से, आप इस पिछले प्रश्न और संबंधित उत्तरों और चर्चाओं में भी रुचि ले सकते हैं ।

Comments

कूल, मैं जल्द से जल्द "संभाव्यता वितरण के लिए एक नया मीट्रिक" पढ़ूंगा। Txh

— ocram

धन्यवाद! मुझे नहीं पता था कि JSD पहले से ही डिस्टर्ब करने के लिए पहले से ही अनुरूप है ** 2

— AlcubierreDrive

महान विवरण के लिए धन्यवाद! बस एक त्वरित प्रश्न। मुझे पता है कि जे-डाइवर्जेंस उस में सममित है J(P,Q) = J(Q,P)। मैंने पढ़ा है कि जे। डायवर्जेंस पी और क्यू में सममित है। क्या इसका मतलब है JS(P,Q) = JS(Q,P)? मैं यह इसलिए पूछ रहा हूं क्योंकि मैं पैकेज में KLdivसे फ़ंक्शन का उपयोग कर रहा हूं । मेरे दो वितरणों के लिए, KLdiv से मैट्रिक्स आउटपुट सममित नहीं है। मैं जेएस से इसे ठीक करने की उम्मीद कर रहा था लेकिन जेएस (केएल का उपयोग करके गणना) से आउटपुट सममित नहीं है। flexmixR

— लेजेंड

$P$$Q$