कम्प्यूटेशनल जटिलता और सूचना के बीच संबंध


11

मैं एक कम्प्यूटेशनल न्यूरोसाइंस लैब में काम करता हूं जो जोड़े या न्यूरॉन्स के समूहों के बीच आपसी जानकारी को निर्धारित करता है। हाल ही में, बॉस ने "तंत्रिका गतिशीलता की जटिलता" को मापने के लिए अपना ध्यान केंद्रित किया। अनुसंधान की उस पंक्ति को आगे बढ़ाने में, मेरे समूह के कुछ लोग "जटिल" के साथ "एक उच्च एन्ट्रॉपी" करने के लिए समान हैं।

क्या कोई मुझे मार्गदर्शन दे सकता है कि संबंध कम्प्यूटेशनल जटिलता (सीएस अर्थ में) और सूचना सिद्धांत अर्थ में एन्ट्रापी के बीच क्या है?

थोड़ा और समझाने के लिए, लेम्पेल-ज़िव जटिलता जैसे उपाय, मुझे नहीं लगते, जटिलता के मान्य उपाय क्योंकि वे बहुत सारे बिट्स ले जाने के साथ सूचनात्मक (उपयोगकर्ता को) भ्रमित करते हैं। अन्य उपाय, जैसे [Causal State Splitting Reconstruction][1]बहुत कम ज्ञात हैं, लेकिन अपील करने वाली संपत्ति है कि यादृच्छिक प्रक्रियाओं में शून्य जटिलता होती है, क्योंकि स्थिर यादृच्छिक प्रक्रिया का प्रतिनिधित्व करने के लिए शून्य छिपे हुए राज्यों की आवश्यकता होती है।


1
क्या आप बता सकते हैं कि आपके क्षेत्र में "जटिल" का क्या अर्थ है? क्या इसका मतलब है, न्यूरॉन्स सार्थक रूप से फायरिंग कर रहे हैं या उनमें से अधिक भाग ले रहे हैं?
बनाम

@vs: "कॉम्प्लेक्स" के लिए कई प्रतिस्पर्धी परिभाषाएं हैं। कुछ लोग कहते हैं कि सबसे जटिल प्रक्रिया सबसे अधिक एन्ट्रापी है। हालांकि, इसका मतलब यह होगा कि यादृच्छिक प्रक्रियाएं जटिल हैं, जो जैविक रूप से यथार्थवादी नहीं लगती हैं। फिर भी, "सार्थक रूप से फायरिंग" "अधिक ... भाग लेने" की तुलना में करीब है, हालांकि संभावना है कि "अधिक भाग लेने वाले सार्थक" और भी करीब है।
mac389

1
हम समझते हैं कि जटिल का मतलब है कि हमारे क्षेत्र से बड़ी एन्ट्रापी। मैंने उस प्रश्न को समझने के लिए कहा कि आपके क्षेत्र का मतलब क्या है। इसलिए "अधिक भाग लेने वाला सार्थक" करीब है। ठीक है। यह मेरा अनुमान है। मेरे लिए "अधिक भाग लेने वाले सार्थक" का तात्पर्य है कि न्यूरॉन्स "समझदारी से" या "विशेष रूप से वांछित परिणाम" के लिए उत्तेजनाओं का जवाब देते हुए संवाद कर रहे हैं। यह सार्थक संचार है। आमतौर पर सूचना सिद्धांत में उच्च एन्ट्रापी या सूचना के साथ जुड़ा हुआ है।
बनाम

@vs: एन्कोडिंग स्कीम के बारे में पता नहीं है और संभावना स्विचिंग है, तो दो मात्राओं में प्रवेश कैसे होता है, यह सवाल है, जैसा कि मस्तिष्क में होता है। लोगों ने कहा है कि एक न्यूरॉन और एक उत्तेजना के बीच आपसी जानकारी का उपयोग करके निर्धारित किया गया है कि न्यूरॉन उस उत्तेजना के लिए कितना चयनात्मक है। कई न्यूरॉन्स के अधिक यथार्थवादी मामले पर विचार करने पर मुद्दा अधिक मैला हो जाता है।
mac389

1
@ mac389 हम किसी वस्तु की जटिलता के रूप में किसी भी संख्या का मतलब हो सकता है। कुछ उदाहरण हैं: कोलमोगोरोव जटिलता (जिसे आपको उत्तर मिला) और समयबद्ध कोलमोगोरोव जटिलता की विभिन्न धारणाएँ; जब आपके पास अलग-अलग आकार की वस्तुओं का एक परिवार होता है, तो हम देखते हैं कि वस्तु के आकार के अनुसार कितना समय / स्थान (वस्तु आकार का कार्य) होता है, यह पहचानने के लिए एक एल्गोरिथ्म लेता है। आपको मेरे विचार से गैर-तुच्छ मॉडलिंग समस्या है।
साशो निकोलेव

जवाबों:


9

स्नातक पाठ्यक्रम की योग्यता के लिए सूचना सिद्धांत और कम्प्यूटेशनल जटिलता के बीच पर्याप्त संबंध हैं, उदाहरण के लिए यह एक: http://www.cs.princeton.edu/courses/archive/fall11/cos597D/


धन्यवाद, अधिक जानकार लोगों के साथ एक चर्चा के साथ यह वही है जो मैं देख रहा था।
mac389

7

कई लोगों ने कोलमोगोरोव जटिलता या इसके संसाधन-बंधे हुए वेरिएंट का उल्लेख किया है, लेकिन मुझे लगता है कि आप जो खोज रहे हैं, उसके करीब (तार्किक) गहराई है । गहराई पर कई प्रकार हैं, लेकिन वे सभी कुछ पाने की कोशिश करते हैं जैसे कि आप किस बारे में बात कर रहे हैं। विशेष रूप से, न तो विशुद्ध रूप से यादृच्छिक तार और न ही बहुत उच्च क्रम वाले / दोहराए गए तार गहरे हैं।

गहराई की एक धारणा सहज रूप से होती है: एक स्ट्रिंग गहरी होती है यदि उसका संक्षिप्त विवरण होता है, लेकिन उस संक्षिप्त विवरण से स्ट्रिंग को फिर से संगठित करने का एकमात्र तरीका एक अयोग्य राशि लेता है। यह गहराई की धारणा है और कई अन्य लोगों का परिचय और विकास [1] में हुआ है। अन्य मानक संदर्भ [2] है। मैं उन लोगों को देखूंगा, फिर एक संदर्भ संदर्भ खोज करेंगे।

[१] एल। एंट्यून्स, एल। फोर्टेवन, डी। वैन मेलकेबेक, एनवी विनोदचंद्रन। कम्प्यूटेशनल गहराई: अवधारणा और अनुप्रयोग । Theoret। अनि। विज्ञान। 354 (3): 391--404। लेखक के वेबपेज से भी स्वतंत्र रूप से उपलब्ध है ।

[२] सीएच बेनेट। तार्किक गहराई और शारीरिक जटिलता। आर। हेरकेन (एड।), द यूनिवर्सल ट्यूरिंग मशीन: अ हाफ सेंचुरी सर्वे, ऑक्सफोर्ड यूनिवर्सिटी प्रेस, ऑक्सफोर्ड (1988), 227-257।


इस उत्तर के लिए आपका बहुत-बहुत धन्यवाद। मुझे लगता है कि जटिलता से मेरा मतलब बहुत ही गहरा है।
mac389

3

पहली चीज़ जो आपको आकर्षक लग सकती है, वह है कोलमोगोरोव जटिलता; मुझे यह निश्चित रूप से आकर्षक लग रहा है, और जब से आपने इसका उल्लेख नहीं किया, मुझे लगा कि यह उल्लेख के लायक हो सकता है।

यह कहा जा रहा है, इस सवाल का जवाब देने के लिए एक अधिक सामान्य दृष्टिकोण भाषाओं और ऑटोमेटा के सिद्धांत पर आधारित हो सकता है। नियतात्मक परिमित ऑटोमेटा O (n) स्ट्रिंग प्रोसेसर हैं। यही है, लंबाई n की एक स्ट्रिंग दी जाती है, वे स्ट्रिंग को ठीक n चरणों में संसाधित करते हैं (यह बहुत कुछ इस बात पर निर्भर करता है कि आप नियतात्मक परिमित ऑटोमेटा को कैसे परिभाषित करते हैं; हालाँकि, DFA को निश्चित रूप से अधिक चरणों की आवश्यकता नहीं होती है)। Nondeterministc परिमित ऑटोमेटा उन्हीं भाषाओं (स्ट्रिंग्स के सेट) को DFA के रूप में पहचानता है, और DFA में परिवर्तित किया जा सकता है, लेकिन क्रमिक, निर्धारक मशीन पर NFA का अनुकरण करने के लिए, आपको आम तौर पर एक पेड़ की तरह "खोज स्थान" का पता लगाना चाहिए, जो बढ़ा सकता है नाटकीय रूप से जटिलता। कम्प्यूटेशनल अर्थों में नियमित भाषा बहुत "जटिल" नहीं हैं,

आप इसी प्रकार भाषाओं के चॉम्स्की पदानुक्रम के अन्य स्तरों को देख सकते हैं - नियतात्मक संदर्भ-मुक्त, संदर्भ-मुक्त (nondeterministic संदर्भ मुक्त भाषाएँ, जिन्हें आवश्यक रूप से नियतात्मक पुशडाउन ऑटोमेटा द्वारा मान्यता नहीं दी जा सकती है), संदर्भ-संवेदनशील भाषा, पुनरावर्ती और पुनरावर्ती असंख्य भाषाएं, और असंदिग्ध भाषाएं।

विभिन्न ऑटोमेटा मुख्य रूप से उनके बाहरी भंडारण में भिन्न होते हैं; अर्थात्, ऑटोमेटा के लिए एक निश्चित प्रकार की भाषाओं को सही ढंग से संसाधित करने के लिए बाहरी संग्रहण क्या आवश्यक है। परिमित ऑटोमेटा का कोई बाह्य भंडारण नहीं है; पीडीए में एक स्टैक होता है, और ट्यूरिंग मशीनों में एक टेप होता है। आप इस प्रकार एक विशेष प्रोग्रामिंग समस्या (जो एक भाषा से मेल खाती है) की जटिलता की व्याख्या कर सकते हैं ताकि इसे पहचानने के लिए आवश्यक मात्रा या भंडारण से संबंधित हो। यदि आपको किसी भाषा में सभी तारों को पहचानने के लिए भंडारण की कोई निश्चित या निश्चित मात्रा की आवश्यकता नहीं है, तो यह एक नियमित भाषा है। यदि आप सभी की जरूरत है एक ढेर है, आप एक संदर्भ मुक्त भाषा है। आदि।

सामान्य तौर पर, मुझे आश्चर्य नहीं होगा यदि चॉम्स्की पदानुक्रम में उच्चतर भाषाएं (इसलिए उच्च जटिलता के साथ) भी सूचना-सिद्धांत संबंधी अर्थों में उच्च एन्ट्रॉपी करते हैं। यह कहा जा रहा है, आप शायद इस विचार के लिए बहुत सारे प्रतिपक्ष पा सकते हैं, और मुझे इस बात का कोई पता नहीं है कि इसमें कोई योग्यता है या नहीं।

इसके अलावा, यह "सैद्धांतिक सीएस" (cstheory) StackExchange पर बेहतर पूछा जा सकता है।


मैंने इसे माइग्रेट किया और आपके सुझाव के लिए धन्यवाद।
mac389

1

कम्प्यूटेशनल जटिलता आवश्यक संसाधनों को संबोधित करती है: किसी विशेष प्रकार की समस्या को देखते हुए, कुछ दिए गए आकार में, इसे हल करने के लिए आवश्यक संसाधन (आमतौर पर समय, स्थान, या दोनों और एक विशेष प्रकार का कंप्यूटिंग डिवाइस) क्या हैं। समस्याएं तब जटिलता "वर्गों" में एक साथ समूहीकृत होती हैं।

इनमें से कुछ बल्कि सामान्य और सार हैं: क्या समस्या सिद्धांत रूप में भी हल है? क्या इस प्रकार की मशीन की आवश्यकता है, या वह? इन विचारों का परिचय अभी भी एक स्नातक स्तर का कंप्यूटर विज्ञान विषय है, और परिचय सामग्री आमतौर पर चॉम्स्की पदानुक्रम का संदर्भ देती है, जो बड़े करीने से कुछ प्रकार के अमूर्त मशीनों और कुछ प्रकार के सार के साथ मिलकर बड़े करीने से (और सुंदर रूप से) मैप करती है। गणितीय भाषा विनिर्देशों।

इनमें से कुछ, निचले स्तर पर, हर दिन के उपयोग में अधिक व्यावहारिक हैं: क्या यह समस्या समस्या के आकार के वर्ग, या घन, या किसी अन्य फ़ंक्शन के रूप में है? दिलचस्प बात यह है कि मुझे पता है कि किसी समस्या के अंतःक्षेपण के लिए तर्क कुछ कम्प्यूटेशनल समस्याओं के लिए कुछ निचले सीमा निर्धारित करने में उपयोगी पाए गए हैं। एक जो मेरे दिमाग में चिपक जाती है (हालांकि मैं पाठ्यपुस्तक की जांच किए बिना इसे शायद नहीं दोहरा सकता था) एक प्रकार के दौरान न्यूनतम आवश्यक संख्या की तुलना के लिए एक एन्ट्रापी-आधारित तर्क है। एन्ट्रापी का संबंध सूचना सिद्धांत के माध्यम से है।

इसलिए विचार के लिए कुछ योग्यता है, मुझे लगता है।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.