संकुचित संवेदन समस्या के बारे में भ्रम

Question

मैंने इस सहित कुछ संदर्भों को पढ़ा ।

मैं उलझन में हूँ कि कौन सी अनुकूलन समस्या संकुचित संवेदन बनाता है और हल करने की कोशिश करता है। क्या यह

$$\begin{array}{ll} \text{minimize} & \|x\|_1\\ \text{subject to} & Ax=b\end{array}$$

या और

$$\begin{array}{ll} \text{minimize} & \|x\|_0\\ \text{subject to} & Ax=b\end{array}$$

या / और कुछ और?

Answer 1

ब्रायन हाजिर हैं। लेकिन मुझे लगता है कि कुछ संकुचित संवेदी प्रसंगों को जोड़ना मददगार है।

सबसे पहले, ध्यान दें कि तथाकथित 0 मानदंड कार्डिनैलिटी फ़ंक्शन या is में नॉनज़ेरो मानों की संख्या एक आदर्श नहीं है । यह शायद सबसे अच्छा है क्योंकि इसे कुछ भी, लेकिन सबसे आकस्मिक संदर्भों में रूप में लिखना सबसे अच्छा है। मुझे गलत मत समझिए, जब आप शॉर्टहैंड का उपयोग करते हैं, तो आप अच्छी कंपनी में होते हैं , लेकिन मुझे लगता है कि इससे भ्रम पैदा होता है।$\|x\|_0$$x$$\mathop{\textbf{card}}(x)$$\|x\|_0$

लोग लंबे समय से जानते हैं कि विरल समाधानों का उत्पादन करने के लिए मानदंड को कम करता है। इसके कुछ सैद्धांतिक कारण हैं जिनका रैखिक संपूरकता के साथ होना है। लेकिन जो सबसे दिलचस्प था, वह यह नहीं था कि समाधान विरल थे, बल्कि यह कि वे प्रायः संभव थे । यही है, न्यूनतम वास्तव में आपको कुछ उपयोगी मामलों में न्यूनतम-कार्डिनैलिटी समाधान देता है। (यह कैसे पता लगाया, जब न्यूनतम कार्डिनैलिटी की समस्या एनपी-हार्ड है? ज्ञात समाधानों के साथ कृत्रिम समस्याओं का निर्माण करके।) यह ऐसा कुछ नहीं था जो रैखिक पूरक सिद्धांत का अनुमान लगा सकता था।$\ell_1$$\|x\|_1$$\|x\|_1$

संपीड़ित संवेदन का क्षेत्र तब पैदा हुआ था जब शोधकर्ताओं ने मैट्रिक्स पर स्थितियों की पहचान करना शुरू किया था जो उन्हें अग्रिम में गारंटी देने की अनुमति देगा कि समाधान भी सबसे कम था। उदाहरण के लिए, कैंडिस, रोमबर्ग और ताओ द्वारा जल्द से जल्द कागजात , और प्रतिबंधित आइसोमेट्री संपत्ति, या आरआईपी की अन्य चर्चाएं । एक अन्य उपयोगी वेब साइट यदि आप वास्तव में किसी सिद्धांत में गोता लगाना चाहते हैं, तो टेरेंस ताओ का संकुचित संवेदन पृष्ठ है ।$A$$\ell_1$

Answer 2

हम हल करने में सक्षम होना पसंद करेंगे

$\min \| x \|_{0}$

सेंट

$Ax=b$

लेकिन यह समस्या एक एनपी-हार्ड कॉम्बीनेटरियल ऑप्टिमाइज़ेशन समस्या है जो कि , , और जब कम्प्रेसिव सेंसिंग में विशिष्ट होती है , तो अभ्यास में हल करना अव्यावहारिक होता है । कुशलता से हल करना संभव है$A$$x$$b$

$\min \| x \|_{1}$

सेंट

$Ax=b$

दोनों सिद्धांत में (यह बहुपद समय में किया जा सकता है) और कम्प्यूटेशनल अभ्यास में भी काफी बड़ी समस्याओं के लिए जो संकुचित संवेदन में उत्पन्न होती हैं। हम का उपयोग करें के लिए "सरोगेट" के रूप में । यह कुछ सहज औचित्य है ( में कम नॉनज़रो प्रविष्टियों के साथ एक-मानक न्यूनतमकरण समाधान पसंद करता है ), साथ ही साथ बहुत अधिक परिष्कृत सैद्धांतिक औचित्य (फॉर्म का प्रमेय "अगर में एक कम-विरल समाधान है: _ उच्च संभावना के साथ उस समाधान को पाएगा। " $\| x \|_{1}$$\| x \|_{0}$$x$$Ax=b$$\| x \|_{1}$

व्यवहार में, चूंकि डेटा अक्सर शोर होते हैं, सटीक बाधा को अक्सर फॉर्म _ के अवरोध के साथ बदल दिया जाता है । $Ax=b$$\| Ax - b \|_{2} \leq \delta$

यह विवश समस्या के एक वैचारिक रूप के साथ काम करने के लिए भी काफी आम है, जहां उदाहरण के लिए हम को कम कर सकते हैं |$\min \| Ax - b\|_{2}^{2} + \lambda \| x \|_{1}$

Answer 3

मुझे Brians और Michaels स्पष्टीकरण के लिए बनाम बारे में कुछ नहीं जोड़ना है । लेकिन चूँकि प्रश्न कम्प्रेस्ड सेंसिंग के बारे में प्रतीत होता है, इसलिए मैं अपनी बात जोड़ना चाहूँगा: कम्प्रेस्ड सेंसिंग न तो के बारे में है, न ही या about संकुचित संवेदना एक प्रतिमान अधिक है , जिसे बहुत मोटे तौर पर कहा जा सकता है$\ell^1$$\ell^0$

$$\min\|x\|_0\quad\text{s.t}\quad Ax=b$$ $$\min\|x\|_1\quad\text{s.t.}\quad Ax=b.$$

कुछ मापों से विरल संकेतों की पहचान करना संभव है।

संपीड़ित सेंसिंग वास्तव में संकेतों की एक निश्चित कक्षा में एक संकेत की पहचान करने के लिए कुछ माप लेने के बारे में है।

एक आकर्षक वाक्यांश है:

आपके 5 मेगापिक्सेल कैमरे को वास्तव में 15 मिलियन मान (प्रत्येक पिक्सेल के लिए तीन) क्यों मापना चाहिए, जिसमें आपको 15 मेगाबाइट डेटा खर्च होता है जब यह केवल 2 मेगाबाइट (संपीड़न के बाद) के बारे में संग्रहीत होता है?
क्या 2 मेगाबाइट को तुरंत मापना संभव हो सकता है?

काफी अलग रूपरेखाएँ संभव हैं:

• रैखिक माप
• गैर-रेखीय वाले (उदाहरण के लिए "फ़ैसेल")
• वेक्टर डेटा, मैट्रिक्स / टेंसर डेटा
• गैर-शून्य की संख्या के रूप में विरलता
• "कम-रैंक" या यहां तक ​​कि "कम जटिलता") के रूप में विरलता।

और वहाँ की तरह विरल समाधान गणना करने के लिए भी अधिक तरीके हैं मिलान गतिविधियों (ओर्थोगोनल मिलान पीछा (OMP तरह वेरिएंट), नियमित ओर्थोगोनल मिलान पीछा (कोलाहल करते हुए खेलना), CoSaMP) या अधिक हाल ही के आधार पर तरीकों संदेश गुजर एल्गोरिदम।

यदि कोई व्यक्ति केवल -या -minimization के साथ संपीडित सेंसिंग की पहचान करता है, तो एक व्यावहारिक डेटा अधिग्रहण समस्याओं से निपटने के दौरान लचीलेपन का एक बड़ा सौदा याद करता है।$\ell^1$$\ell^0$

यदि एक, हालांकि, रैखिक प्रणालियों के लिए विरल समाधान प्राप्त करने में दिलचस्पी है, तो कोई ऐसा काम करता है जिसे मैं विरल पुनर्निर्माण कहूंगा ।

Comments

धन्यवाद! क्या आप गणित के सूत्रीकरण में निम्नलिखित को फिर से जोड़ सकते हैं: "कुछ मापों से विरल संकेतों की पहचान करना संभव है। संपीडित सेंसिंग वास्तव में संकेतों की एक निश्चित कक्षा में एक संकेत की पहचान करने के लिए यथासंभव कुछ माप लेने के बारे में है।"

— टिम

नहीं, मैं नहीं कर सकता, क्योंकि संकुचित संवेदना एक गणितीय सिद्धांत नहीं है, बल्कि एक इंजीनियरिंग अवधारणा है।

— डिर्क

मुझे लगता है कि यह उत्तर एक अच्छा योगदान है, और मैंने इसे वोट दिया। हालांकि आकर्षक वाक्यांश के लिए, मुझे हमेशा इसके साथ एक समस्या थी। यह बताता है कि सीएस इतना शक्तिशाली है कि आप केवल 13 मिलियन पिक्सल फेंक सकते हैं और छवि को फिर से प्राप्त कर सकते हैं। लेकिन नहीं, आपको सीएस सिस्टम में भी कभी भी डेटा को बेतरतीब ढंग से नहीं फेंकना चाहिए --- एक अच्छा रिकवरी एल्गोरिदम हमेशा अधिक डेटा का उपयोग कर सकता है। सीएस का वादा कुछ महत्वपूर्ण व्यावहारिक बचत के बदले पहले स्थान पर कम डेटा एकत्र करने वाले सेंसर विकसित करने की क्षमता है : बिजली की बचत, तेजी से संग्रह, आदि

— माइकल ग्रांट

@MichaelGrant मैं सहमत हूं: पहले से ही मापी गई डेटा का उपयोग न करें और उस दिनांक का उपयोग करें जिसे आप न्यूनतम प्रयास से माप सकते हैं।

— डिर्क