precision पर टैग किए गए जवाब

डिजिट डिस्प्ले पर नियंत्रण पाने के लिए आर में एक विकल्प है। उदाहरण के लिए: options(digits=10) आर सत्र के अंत तक 10 अंकों में गणना परिणाम देने वाला है। R की मदद फ़ाइल में, अंक पैरामीटर की परिभाषा इस प्रकार है: अंक: संख्यात्मक मूल्यों को प्रिंट करने के लिए अंकों …

110 r  precision  digits  r-faq  output-formatting 

यह एक ऐसा प्रश्न था जो मुझे अपने हालिया साक्षात्कार में पूछा गया था और मैं जानना चाहता हूं (मुझे वास्तव में संख्यात्मक विश्लेषण का सिद्धांत याद नहीं है, इसलिए कृपया मेरी मदद करें :) यदि हमारे पास कुछ फ़ंक्शन है, जो फ्लोटिंग-पॉइंट संख्याओं को जमा करता है: std::accumulate(v.begin(), v.end(), …

105 c++  floating-point  precision 

मुझे पता है कि आप सामान्य रूप से दोहरे या दशमलव प्रकार के मूल्यों के बीच समानता पर भरोसा नहीं कर सकते, लेकिन मैं सोच रहा था कि क्या 0 एक विशेष मामला है। हालांकि मैं 0.00000000000001 और 0.00000000000002 के बीच की गड़बड़ियों को समझ सकता हूं, जबकि खुद को …

100 c#  .net  floating-point  precision  zero 

यह एक सवाल नहीं है क्योंकि यह अधिक जागरूक है। मैंने एक एप्लिकेशन को अपडेट किया जो json_encode()PHP7.1.1 का उपयोग करता है और मैं एक मुद्दे को देख रहा था जिसमें फ्लोट्स को कभी-कभी 17 अंकों का विस्तार करने के लिए बदल दिया जाता था। प्रलेखन के अनुसार, PHP 7.1.x …

98 php  json  precision  php-7.1 

मैं सिर्फ कुछ यूनिट परीक्षणों को करते हुए DateTime.UtcNow के साथ कुछ अप्रत्याशित व्यवहार में भाग गया। ऐसा प्रतीत होता है कि जब आप DateTime.Now/UtcNow को तीव्र गति से कहते हैं, तो यह आपको अधिक सटीक मिलीसेकेंड वेतन वृद्धि पर कब्जा करने के बजाय समय की अपेक्षा अधिक लंबे अंतराल …

97 c#  .net  datetime  precision  time-precision 

यह कुछ ऐसा है जो वर्षों से मेरे दिमाग में है, लेकिन मैंने पहले कभी पूछने का समय नहीं लिया। कई (छद्म) यादृच्छिक संख्या जनरेटर 0.0 और 1.0 के बीच एक यादृच्छिक संख्या उत्पन्न करते हैं। गणितीय रूप से इस रेंज में अनंत संख्याएं हैं, लेकिन doubleएक फ्लोटिंग पॉइंट नंबर …

93 random  floating-point  double  precision 

मेरे पास कुछ ग्राहक अजीब बिल ले रहे हैं। मैं मुख्य समस्या को अलग करने में सक्षम था: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT …

84 sql-server  tsql  precision  sql-server-2016  sqldatatypes 

बंद हो गया । इस प्रश्न पर अधिक ध्यान देने की आवश्यकता है । यह वर्तमान में उत्तर स्वीकार नहीं कर रहा है। इस प्रश्न को सुधारना चाहते हैं? प्रश्न को अपडेट करें ताकि यह इस पोस्ट को संपादित करके केवल एक समस्या पर केंद्रित हो । 4 महीने पहले …

84 python  types  precision 

मैं अक्सर उन स्थितियों में समाप्त होता हूं, जहां यह जांचना आवश्यक है कि प्राप्त अंतर मशीन परिशुद्धता से ऊपर है या नहीं। इस उद्देश्य के लिए लगता है आर के पास एक आसान चर है .Machine$double.eps:। हालाँकि जब मैं इस मूल्य का उपयोग करने के दिशानिर्देशों के लिए R …

36 r  floating-point  rounding  precision 

मान लीजिए कि हम np.dotदो 'float32'2D सरणियाँ लेते हैं: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] नंबर। सिवाय, वे बदल सकते हैं: मामला 1 : टुकड़ाa np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i …

15 python  c  arrays  numpy  precision 

मेरे पास फ्लोटिंग पॉइंट पॉजिटिव नंबर ( std::vector<float>, आकार ~ 1000) की काफी लंबी सूची है । क्रम घटने में क्रमबद्ध होते हैं। यदि मैं उन्हें इस आदेश का पालन करता हूं: for (auto v : vec) { sum += v; } मुझे लगता है कि मुझे कुछ संख्यात्मक स्थिरता …

12 c++  floating-point  precision