क्या यादृच्छिक संख्याओं का सही मायने में समान वितरण पाने के लिए अस्वीकृति एकमात्र तरीका है?

मान लीजिए कि हमारे पास एक यादृच्छिक जनरेटर है जो समान वितरण के साथ रेंज में संख्या $[0..R-1]$ का उत्पादन करता है और हमें समान वितरण के साथ सीमा में यादृच्छिक संख्या उत्पन्न करने की आवश्यकता है $[0..N-1]$ ।

माना कि और , समान रूप से विभाजित नहीं करते हैं ; वास्तव में एक समान वितरण पाने के लिए हम अस्वीकृति नमूनाकरण विधि का उपयोग कर सकते हैं : $N < R$ $N$ $R$

अगर सबसे बड़ा पूर्णांक है, तो $k$ $k N < R$
में एक यादृच्छिक संख्या चुनें $r$ $[0..R-1]$
अगर तब आउटपुट , अन्यथा अन्य यादृच्छिक संख्याओं r, r ", ... के साथ प्रयास करते रहें, जब तक कि शर्त पूरी न हो जाए $r < k N$ $r \mod N$

क्या वास्तव में एक समान असतत वितरण पाने के लिए अस्वीकृति एकमात्र तरीका है?

अगर जवाब हाँ है, तो क्यों?

नोट: अगर विचार एक ही है: एक यादृच्छिक संख्या उत्पन्न में , उदाहरण के लिए जहाँ रेंज में एक यादृच्छिक संख्या है $N > R$ $r'$ $[0..R^m-1], R^m >= N$ $r' = R(...R(R r_1 + r_2)...)+r_m$ $r_i$ $[0..R-1]$

— vor
स्रोत

देखें cstheory.SE पर इस संबंधित सवाल ।

— राफेल

जवाबों:

हाँ और नहीं, आप "एक ही रास्ता" से क्या मतलब है पर निर्भर करता है। हां, इसमें ऐसी कोई विधि नहीं है जिसे समाप्त करने की गारंटी दी गई है, सबसे अच्छा आप कर सकते हैं ( और सामान्य मूल्यों के लिए ) एक एल्गोरिथ्म है जो संभावना के साथ समाप्त होता है 1. नहीं, इसमें आप "बेकार" को छोटा बना सकते हैं जैसा आपको पसंद। $N$ $R$

क्यों गारंटीकृत समाप्ति सामान्य रूप से असंभव है

मान लीजिए कि आपके पास एक नियतात्मक संगणना इंजन है (एक ट्यूरिंग मशीन या जो कुछ भी आपकी नाव को तैरता है), साथ ही एक ओरेकल जो सेट सेट के यादृच्छिक तत्वों को उत्पन्न करता है । आपका लक्ष्य -ment सेट का एक तत्व उत्पन्न करना है । आपके इंजन का आउटपुट केवल ऑरेकल द्वारा लौटाए गए मूल्यों के अनुक्रम पर निर्भर करता है; यह उस संभावित अनंत अनुक्रम का एक फ़ंक्शन है $R$ $[0..R-1]$ $N$ $[0,N-1]$ $f$ $(r_0, r_1, r_2, \ldots)$ ।

मान लीजिए कि आपके इंजन सबसे स्थित ऑरेकल कॉल बार। ऐसे निशान हो सकते हैं जिनके लिए ओरेकल को टाइम से कम कहा जाता है; यदि ऐसा है, तो ऑर्कल को अतिरिक्त बार कॉल करना ताकि इसे हमेशा कहा जाए , आउटपुट नहीं बदलता है। तो सामान्यता के नुकसान के बिना, हम मानते हैं कि ओरेकल को बिल्कुल टाइम कहा जाता है । फिर परिणाम की संभावना अनुक्रमों की संख्या है जैसे कि $m$ $m$ $m$ $m$ $x$ $(r_0, \ldots, r_{m-1})$ । चूंकि दैवज्ञ एक समान यादृच्छिक जनरेटर है, प्रत्येक अनुक्रम परिवर्तनीय है और इसमें प्रायिकता । इसलिए प्रत्येक परिणाम की संभावना जहांऔर बीच पूर्णांक होता है। $f(r_0, \ldots, r_{m-1}) = x$ $1/R^m$ $A/R^m$ $A$ $0$ $R^m$

अगर विभाजित कुछ के लिए है, तो आप के ऊपर एक समान वितरण उत्पन्न कर सकते हैं यादृच्छिक जनरेटर को फोन करके तत्वों बार (यह पाठक के लिए एक व्यायाम के रूप में छोड़ दिया जाता है)। अन्यथा, यह असंभव है: संभावना साथ एक परिणाम प्राप्त करने का कोई तरीका नहीं है । ध्यान दें कि हालत यह कहने के बराबर है कि सभी प्रमुख कारक भी कारक हैं (यह आपके प्रश्न में लिखे गए प्रश्न की तुलना में अधिक अनुमत है; उदाहरण के लिए आप 6-पक्षीय मेले के साथ 4 के बीच एक यादृच्छिक तत्व चुन सकते हैं; मर जाते हैं, भले ही 4 6 को विभाजित नहीं करता है)। $N$ $R^m$ $m$ $N$ $m$ $1/N$ $N$ $R$

कचरे को कम करना

अपनी रणनीति में, जब , आपको तुरंत फिर से आकर्षित करने की आवश्यकता नहीं है। Intuitively, वहाँ एन्ट्रापी का एक सा में छोड़ दिया है $r \ge k\,N$ जिसे आप मिश्रण में रख सकते हैं। $[k\,N .. R-1]$

एक पल के लिए मान लें कि आप वास्तव में नीचे यादृच्छिक संख्याओं को हमेशा के लिए पैदा करते रहेंगे, और आप एक बार में ड्रा बनाकर उनमें से उत्पन्न करते । यदि आप इस समूहीकृत पीढ़ी पर एक सीधा अस्वीकृति नमूनाकरण करते हैं, तो ड्रॉ पर अपशिष्ट $N$ $u$ $d$ $d$ , यानी शेषको ड्रा की संख्या से विभाजित किया गया। यहजितना कम हो सकता है। जबऔरमैथुन करते हैं, तो आप पर्याप्त रूप से बड़े मानचुनकर कचरे को मनमाने ढंग से छोटा कर सकते हैं। औरके सामान्य मूल्यों के लिए, गणना अधिक जटिल है क्योंकि आपकोऔरकी पीढ़ी को ध्यान में रखना होगा। $\dfrac{R^d - k\,N^u}{d}$ $R^d \mathbin{\mathrm{mod}} N^u$ $\gcd(R,N)$ $R$ $N$ $d$ $R$ $N$ $\gcd(R,N)$ अलग से, लेकिन फिर से आप बड़े पर्याप्त समूहों के साथ कचरे को मनमाने ढंग से छोटा कर सकते हैं। $N/\gcd(R,N)$

व्यवहार में, यहां तक कि अपेक्षाकृत अकुशल यादृच्छिक संख्याओं (जैसे क्रिप्टोग्राफी में) के साथ, यह शायद ही कभी कुछ भी करने के लायक है लेकिन सरल अस्वीकृति का नमूना है, जब तक कि छोटा नहीं है। उदाहरण के लिए, क्रिप्टोग्राफी में, जहां आमतौर पर 2 की शक्ति है और आमतौर पर सैकड़ों या हजारों बिट्स हैं, वर्दी यादृच्छिक संख्या पीढ़ी आमतौर पर वांछित रेंज में सीधे अस्वीकृति नमूने द्वारा आगे बढ़ती है। $N$ $R$ $N$

— गिल्स 'SO- बुराई होना बंद करो'
स्रोत

पहला प्रमाण त्रुटिपूर्ण है:

का अस्तित्व बहुत मजबूत है। हमारे पास एक मशीन हो सकती है जो मनमाने ढंग से कई तत्वों का उपभोग करती है, लेकिन हमेशा समाप्त हो जाती है। मूल रूप से, हम एक अनुक्रम (कभी समाप्त नहीं होने वाला) को बाहर करना चाहते हैं, लेकिन आप सभी को छोड़कर बहुत से हैं।

m

$m$

— राफेल

@ राफेल मुझे यकीन नहीं है कि मैं समझता हूं कि आपका क्या मतलब है। क्या आप एक उदाहरण दे सकते हैं ऐसी मशीन?

— गिल्स एसओ- बुराई को रोकना '

आह, मेरी चिंता बहुत सामान्य थी। यहां - इनपुट की अनुपस्थिति को देखते हुए - आप सही हैं। यदि सभी संगणनाएं समाप्त हो जाती हैं, तो बहुत अधिक हैं (कोई इनपुट नहीं, प्रति चरण निर्णय की संख्या, एक परिमित वृक्ष को मिटा दें), इसलिए एक सबसे लंबा है जो आपको

देता है ।

m

$m$

— राफेल

@ राफेल आपकी टिप्पणी मुझे टीसीएस दर्शकों के लिए एक बेहतर प्रस्तुति के बारे में सोचती है: आरएनजी को एक ओरेकल के बजाय एक टीएम का इनपुट बनाएं। हम मानते हैं कि TM समाप्त हो गया है (अन्यथा एल्गोरिथ्म गलत है)। यदि कोई ऐसा

है जो इनपुट है, TM सबसे अधिक

इनपुट कोशिकाओं को देखता है , तो

blah द्वारा विभाज्य <blah blah में

ट्रांसफ़ॉर्मेबल परिणाम नहीं हो सकते हैं>। अन्यथा, सभी

के लिए, कम से कम

ड्रॉ की आवश्यकता की संभावना कम से कम

।

m

$m$

m

$m$

R^{m}

$R^m$

N

$N$

m

$m$

m

$m$

R^{- m}

$R^{-m}$

— गिल्स का SO-

@ राफेल: कोनिग की लेम्मा से पता चलता है कि यदि मशीन हमेशा समाप्त हो जाती है, तो वास्तव में उसके चलने के समय एक ऊपरी सीमा होती है। यह तब तक काम करता है जब तक RNG का आउटपुट सेट परिमित होता है (और अन्यथा, यह बहुत ही गलत है)।

— युवल फिल्मस

शैनन के स्रोत प्रमेय शो कोडिंग है कि, कुछ सही अर्थ में, आप की जरूरत प्रकार के नमूने (औसतन) प्रकार के एक यादृच्छिक संख्या उत्पन्न करने के लिए । अधिक सही, शैनन एक (अक्षम) एल्गोरिथ्म यह देखते हुए कि देता पहले प्रकार के नमूने, आउटपुट $\log N/\log R$ $[0,\ldots,R-1]$ $[0,\ldots,N-1]$ $m$ $m(\log N/\log R - \epsilon)$ उच्च संभावना के साथ, दूसरे प्रकार के नमूने। उन्होंने यह भी पता चलता है कि outputting उच्च संभावना के साथ नमूने असंभव है। $m(\log N/\log R + \epsilon)$

शैनन का प्रमेय एक तिरछे इनपुट वितरण के सामान्य मामले में भी काम करता है (और शायद आउटपुट वितरण भी)। उस स्थिति में, आपको लघुगणक को एन्ट्रॉपी से बदलने की आवश्यकता है। जबकि प्रमेय द्वारा दिया गया एल्गोरिथ्म बेतरतीब ढंग से परिभाषित किया गया है, कुछ मामलों में इसे (कुछ हद तक बदतर की कीमत पर) आरेखित करना संभव है।

— युवल फिल्मस
स्रोत

दरअसल, नहीं, अस्वीकृति नमूना कार्यवाही के एकमात्र तरीके से बहुत दूर है। दुर्भाग्य से, यह देखते हुए कि कंप्यूटर सभी सूचनाओं को बिट्स के रूप में संग्रहीत करते हैं, और इस प्रकार केवल यादृच्छिक बिट्स की जानकारी में हेरफेर कर सकते हैं, रेंज का एक समान यादृच्छिक चर खींचने के लिए कोई भी एल्गोरिथ्म अनंत होगा, यदि का बाइनरी बेस विकास अनंत है। $N$ $N$

यह प्रमेय नूथ और याओ (1976) द्वारा एक शास्त्रीय परिणाम है, जिन्होंने डीडीजी-पेड़ों (असतत वितरण उत्पादन) का ढांचा विकसित किया है।

गाइल्स द्वारा उजागर किए गए तरीके विशिष्ट प्रकार की चीज़ है जो कि अस्वीकृति द्वारा किए गए कचरे को कम करने के लिए किए गए हैं, लेकिन निश्चित रूप से अगर कोई नथ और याओ के पेड़ों का पालन कर सकता है, तो यह बहुत अधिक कुशल है - औसतन 96% यादृच्छिक बिट्स बच जाते हैं।

मैंने इस बारे में अधिक जानकारी निम्नलिखित CStheory पोस्ट में दी है ।

— Jérémie
स्रोत