मैट्रिक्स डिकम्पोजिशन पर आवश्यक कागजात


18

मैंने हाल ही में मैट्रिक्स डिकम्पोजिशन पर Skillicorn की किताब पढ़ी, और थोड़ा निराश था, क्योंकि यह एक स्नातक दर्शकों के लिए लक्षित था। मैं मैट्रिक्स के डिकम्पोजिशन पर आवश्यक कागजात (सर्वेक्षण, लेकिन साथ ही सफलता के कागजात) की एक छोटी ग्रंथ सूची का संकलन करना चाहूंगा। मेरे मन में मुख्य रूप से एसवीडी / पीसीए (और मजबूत / विरल वैरिएंट) और एनएनएमएफ पर कुछ है, क्योंकि वे अब तक सबसे अधिक उपयोग किए जाते हैं। क्या आप सभी के पास कोई सुझाव / सुझाव है? मैं जवाबों को पक्षपात नहीं करने के लिए खदान बंद कर रहा हूं। मैं प्रत्येक उत्तर को 2-3 पेपरों तक सीमित करने के लिए कहूंगा।

पुनश्च: मैं डेटा विश्लेषण में सबसे ज्यादा इस्तेमाल किए जाने वाले इन दो डिकम्पोजिशन का उल्लेख करता हूं । संख्यात्मक विश्लेषण में निश्चित रूप से QR, चोल्स्की, LU और ध्रुवीय बहुत महत्वपूर्ण हैं। हालांकि यह मेरे सवाल का फोकस नहीं है।

जवाबों:


16

आप कैसे जानते हैं कि एसवीडी और एनएमएफ एलयू, चोल्स्की और क्यूआर के बजाय अब तक सबसे अधिक उपयोग किए जाने वाले मैट्रिक्स डिकम्पोजिशन हैं। मेरी व्यक्तिगत पसंदीदा 'सफलता' को गारंटीकृत रैंक-खुलासा क्यूआर एल्गोरिदम होना चाहिए,

  • चैन, टोनी एफ। "रैंक रिवीलिंग क्यूआर फैक्टीजेशन"। रेखीय बीजगणित और इसके अनुप्रयोग खंड 88-89, अप्रैल 1987, पृष्ठ 67-82। डीओआई: 10.1016 / 0024-3795 (87) 90103-0

... स्तंभ-धुरी के साथ QR के पहले के विचार का विकास:

  • बसिंगर, पीटर; गोलूब, जीन एच। (1965)। हाउसहोल्डर परिवर्तनों द्वारा रैखिक कम से कम वर्ग समाधान। न्यूमेरिक गणित संख्या 7, संख्या 3, 269-276, डीओआई: 10.1007 / BF01436084

ए ( ?) क्लासिक पाठ्यपुस्तक है:

  • गोलूब, जीन एच।; वैन लोन, चार्ल्स एफ (1996)। मैट्रिक्स संगणना (तीसरा संस्करण), जॉन्स हॉपकिंस, आईएसबीएन 978-0-8018-5414-9

(मुझे पता है कि आपने पाठ्यपुस्तकों के लिए नहीं पूछा था लेकिन मैं विरोध नहीं कर सकता)

संपादित करें: थोड़ा और गुगुलिंग एक कागज पाता है जिसका सार हमें पता चलता है कि हम क्रॉस पोरोजाइज में थोड़ा हो सकते हैं। मेरा उपरोक्त पाठ 'संख्यात्मक रैखिक बीजगणित' (NLA) के परिप्रेक्ष्य से आ रहा था; संभवतः आप 'लागू आँकड़ों / साइकोमेट्रिक्स' (AS / P) के परिप्रेक्ष्य से अधिक चिंतित हैं? क्या आप शायद स्पष्ट कर सकते हैं?


2
मैं स्वयं "पाठ्यपुस्तक" कहूंगा, स्टीवर्ट के मैट्रिक्स एल्गोरिदम ( दोनों भाग ) एक करीबी सेकंड के साथ। मैं स्वयं अग्रगामी पत्रों की एक सूची दूंगा, लेकिन ओपी को वास्तव में यह बताना चाहिए कि क्या वह अंकज्योतिष दृष्टिकोण या सांख्यिकी दृष्टिकोण चाहता है (मैं पूर्व के साथ मदद कर सकता हूं, लेकिन इतना बाद वाला नहीं)।
JM

1
गोलब और वान ऋण के लिए +1। और, हाँ, निश्चित लेख उपयुक्त है।
shabbychef

2
मैंने अपने प्रश्न को यह स्पष्ट करने के लिए संपादित किया कि मैं सांख्यिकी भाग पर ध्यान केंद्रित कर रहा हूं। मैं सभी से सहमत हूं कि गोलूब और वैन लोन मैट्रिक्स डिकम्पोजिशन के लिए मानक संदर्भ है। लेकिन यह यादृच्छिक अनुमानों के माध्यम से बहुत बड़े पैमाने पर अपघटन के विषय को छोड़ रहा है। एक सर्वेक्षण पत्र जो मैं अपनी सूची में डालूंगा, वह हैल्को एट अल द्वारा "अनुमानित मैट्रिक्स डिकम्पोजिशन के निर्माण के लिए यादृच्छिकता के साथ संरचना का पता लगाना: स्टोकेस्टिक एल्गोरिदम"।
गप्पे

4

एनएनएमएफ के लिए, ली और सेउंग एक पुनरावृत्त एल्गोरिथ्म का वर्णन करते हैं जो लागू करने के लिए बहुत सरल है। वास्तव में वे दो समान एल्गोरिदम देते हैं, एक अवशिष्ट के फ्रोबेनियस मानदंड को कम करने के लिए, दूसरा सन्निकटन और मूल मैट्रिक्स के कुल्बैक-लीब्लर डाइवर्जेंस को कम करने के लिए।


3

हो सकता है, आप दिलचस्प पा सकते हैं

  1. [मैट्रिक्स फैक्टरिज़ के साथ सीखना] नाथन स्रेब्र द्वारा पीएचडी थीसिस,
  2. [बड़े सिफारिश प्रणाली के लिए विभिन्न मैट्रिक्स फैक्टराइजेशन विधियों की जांच] , गैबोर टेकस et.al. और लगभग एक ही तकनीक यहाँ वर्णित है

अंतिम दो लिंक दिखाते हैं कि सहयोगात्मक फ़िल्टरिंग में स्पार्स मैट्रिक्स फैक्टर कैसे उपयोग किए जाते हैं। हालांकि, मेरा मानना ​​है कि SGD जैसे फैक्टराइजेशन एल्गोरिदम कहीं और उपयोगी हो सकते हैं (कम से कम वे कोड करने में बेहद आसान हैं)


2

विटेन, टिबशिरानी - दंडित मैट्रिक्स अपघटन

http://www.biostat.washington.edu/~dwitten/Papers/pmd.pdf

http://cran.r-project.org/web/packages/PMA/index.html

मार्टिंसन, रोक्लिन, स्ज़लाम, टाइगर्ट - यादृच्छिक एसवीडी

http://cims.nyu.edu/~tygert/software.html

http://cims.nyu.edu/~tygert/blanczos.pdf


5
धन्यवाद। मुझे दोनों पेपर पता हैं। मैं Witten [नहीं Whitten] et al। का बहुत बड़ा प्रशंसक नहीं हूं, क्योंकि मुझे लगता है कि विरल डिकम्पोजिशन पर अधिक महत्वपूर्ण कागजात हैं। यादृच्छिक एसवीडी पर, मैं विशेष रूप से समीक्षा पत्र "यादृच्छिकता के साथ खोज संरचना: अनुमानित मैट्रिक्स डिकम्पोजिशन के निर्माण के लिए स्टोचस्टिक एल्गोरिदम" ( arxiv.org/abs/0909.4061 ) भी मार्टिंसन द्वारा सह-लेखक है।
gappy

मैं सहमत हूँ। मैं अभी वहाँ 2 कागजात डाल रहा था जिसका किसी ने उल्लेख नहीं किया था।
भजन २२'१०

2

इस वर्ष के एनआईपीएस में वितरित, बहुत बड़े पैमाने पर एसवीडी पर एक छोटा पेपर था जो एक स्ट्रीमिंग इनपुट मैट्रिक्स पर एक पास में काम करता है

कागज का अधिक कार्यान्वयन उन्मुख लेकिन चीजों को वास्तविक दीवार-घड़ी के समय और सभी के साथ परिप्रेक्ष्य में रखता है। शुरुआत के पास की तालिका एक अच्छा सर्वेक्षण भी है।


NIPS के लिए क्या खड़ा है?
onstop

@onestop लिंक जोड़ा गया। एनआईपीएस = तंत्रिका सूचना प्रसंस्करण प्रणाली। यह एक समुदाय है (सिस्टम नहीं :))। लेकिन पीआईसी सम्मेलन एनआईपीएस 2010 के बारे में बात कर रहा है।
रॉबिन जिरार्ड
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.