entropy पर टैग किए गए जवाब

यह विचार मेरे लिए एक बच्चे के रूप में आया जो प्रोग्राम को सीख रहा था और पहले PRNG का सामना कर रहा था। मैं अभी भी नहीं जानता कि यह कितना यथार्थवादी है, लेकिन अब स्टैक एक्सचेंज है। यहाँ एक 14 साल की योजना एक अद्भुत संपीड़न एल्गोरिथ्म के …

38 information-theory  randomness  data-compression  pseudo-random-generators  entropy 

विकिपीडिया के अनुसार : शैनन की एन्ट्रोपी एक संदेश में निहित जानकारी को उस संदेश के हिस्से के विपरीत मापती है जो निर्धारित (या पूर्वानुमेय) है। उत्तरार्द्ध के उदाहरणों में भाषा संरचना या सांख्यिकीय गुणों में अतिरेक शामिल होते हैं जो अक्षर या शब्द जोड़े, त्रिगुण आदि की घटना आवृत्तियों …

35 information-theory  data-compression  entropy 

कहो मुझे निम्नलिखित असतत वितरण का अनुकरण करने की आवश्यकता है: P(X=k)={12N,1−12N,if k=1if k=0P(X=k)={12N,if k=11−12N,if k=0 P(X = k) = \begin{cases} \frac{1}{2^N}, & \text{if $k = 1$} \\ 1 - \frac{1}{2^N}, & \text{if $k = 0$} \end{cases} सबसे स्पष्ट तरीका यादृच्छिक बिट्स को आकर्षित करना है और जांचना है कि …

31 algorithms  information-theory  randomness  pseudo-random-generators  entropy 

एलन ट्यूरिंग ने एक मशीन (ट्यूरिंग मशीन, टीएम) के लिए एक मॉडल प्रस्तावित किया जो गणना (संख्याएँ, कार्य आदि) करता है और हैलटिंग प्रमेय को प्रमाणित करता है । टीएम मशीन (या यदि आपको पसंद हो तो इंजन) की एक अमूर्त अवधारणा है। हाल्टिंग प्रमेय एक असंभव परिणाम है। एक …

31 turing-machines  halting-problem  entropy 

कुछ अध्यायों ने कहा: जो कोई भी नियतात्मक साधनों द्वारा यादृच्छिक संख्या उत्पन्न करने का प्रयास करता है, वह निश्चित रूप से पाप की स्थिति में रहता है। इसका मतलब हमेशा यह माना जाता है कि आप केवल कंप्यूटर के साथ सही यादृच्छिक संख्या उत्पन्न नहीं कर सकते। और उन्होंने …

25 randomness  data-compression  entropy  random-number-generator 

लिनक्स पर, फाइलें /dev/randomऔर/dev/urandom फाइलें छद्म-यादृच्छिक बाइट्स के अवरुद्ध और गैर-अवरुद्ध (क्रमशः) स्रोत हैं। उन्हें सामान्य फ़ाइलों के रूप में पढ़ा जा सकता है: $ hexdump /dev/random 0000000 28eb d9e7 44bb 1ac9 d06f b943 f904 8ffa 0000010 5652 1f08 ccb8 9ee2 d85c 7c6b ddb2 bcbe 0000020 f841 bd90 9e7c 5be2 …

19 operating-systems  cryptography  randomness  security  entropy 

आपके पास भिन्न तत्वों की एक सरणी है । आपके पास एक तुलनित्र तक पहुँच है (एक ब्लैक बॉक्स फ़ंक्शन दो तत्वों को ए और बी ले रहा है और सही iff एक < b ) और बिट्स का वास्तव में यादृच्छिक स्रोत (एक ब्लैक बॉक्स फ़ंक्शन बिना किसी तर्क …

18 algorithms  algorithm-analysis  information-theory  permutations  entropy 

मूल्यों की एक स्ट्रिंग को देखते हुए AAAAAAAABCAAAAAAAABCAAAAAAAABC लॉग आधार में, शैनन Entropy 222 के लिए आता है 0.9220.9220.922 । मैं जो समझता हूं, उसके आधार 222 में शैनन एन्ट्रॉपी राउंडेड है जो कि बाइनरी की न्यूनतम संख्या है, जिसमें से किसी एक मान का प्रतिनिधित्व किया जा सकता है। …

14 information-theory  mathematical-foundations  entropy  binary 

काम पर मुझे एक गतिशील भाषा के बारे में कुछ प्रकार की जानकारी के साथ काम सौंपा गया है। मैं बयानों के अनुक्रमों को नेस्टेड letअभिव्यक्तियों में फिर से लिखता हूं , जैसे: return x; Z => x var x; Z => let x = undefined in Z x = …

11 programming-languages  logic  type-theory  type-inference  machine-learning  data-mining  clustering  order-theory  reference-request  information-theory  entropy  algorithms  algorithm-analysis  space-complexity  lower-bounds  formal-languages  computability  formal-grammars  context-free  parsing  complexity-theory  time-complexity  terminology  turing-machines  nondeterminism  programming-languages  semantics  operational-semantics  complexity-theory  time-complexity  complexity-theory  reference-request  turing-machines  machine-models  simulation  graphs  probability-theory  data-structures  terminology  distributed-systems  hash-tables  history  terminology  programming-languages  meta-programming  terminology  formal-grammars  compilers  algorithms  search-algorithms  formal-languages  regular-languages  complexity-theory  satisfiability  sat-solvers  factoring  algorithms  randomized-algorithms  streaming-algorithm  in-place  algorithms  numerical-analysis  regular-languages  automata  finite-automata  regular-expressions  algorithms  data-structures  efficiency  coding-theory  algorithms  graph-theory  reference-request  education  books  formal-languages  context-free  proof-techniques  algorithms  graph-theory  greedy-algorithms  matroids  complexity-theory  graph-theory  np-complete  intuition  complexity-theory  np-complete  traveling-salesman  algorithms  graphs  probabilistic-algorithms  weighted-graphs  data-structures  time-complexity  priority-queues  computability  turing-machines  automata  pushdown-automata  algorithms  graphs  binary-trees  algorithms  algorithm-analysis  spanning-trees  terminology  asymptotics  landau-notation  algorithms  graph-theory  network-flow  terminology  computability  undecidability  rice-theorem  algorithms  data-structures  computational-geometry 

हफ़मैन कोडिंग, अंकगणित कोडिंग और रेंज कोडिंग के बीच संबंधों को समझने की कोशिश में, मैंने हफ़मैन कोडिंग की कमियों को भिन्नात्मक बिट-पैकिंग की समस्या से संबंधित माना । यह है, मान लें कि आपके पास एक प्रतीक के लिए 240 संभावित मान हैं, और इसे बिट्स में एन्कोड करने …

11 information-theory  data-compression  coding-theory  entropy  huffman-coding 

मुझे (शैनन) मैट्रिक्स एन्ट्रापी में एक बाधा अनुकूलन समस्या है । मैट्रिक्स को फॉर्म के रैंक 1 मैट्रिक्स के योग के रूप में लिखा जा सकता है जहां एक सामान्यीकृत वेक्टर है। रैंक एक मैट्रेस के गुणांक अज्ञात हैं जिसमें हम अनुकूलन करते हैं और उन्हें शून्य से बड़ा और …

10 optimization  entropy 

मैं अब बहुत गैर निरर्थक (वास्तविक) जानकारी को मापने की कोशिश कर रहा हूं जिसमें मेरी फ़ाइल शामिल है। कुछ इसे एन्ट्रापी की मात्रा कहते हैं। बेशक मानक पी (एक्स) लॉग {पी (एक्स)} है, लेकिन मुझे लगता है कि शैनन केवल एक चैनल को प्रसारित करने के दृष्टिकोण से इस …

9 entropy