precision पर टैग किए गए जवाब

मैं चाहता हूँ aकरने के लिए गोल होने के लिए 13.95 । >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 roundसमारोह तरह से मैं उम्मीद काम नहीं करता।

1690 python  floating-point  rounding  precision 

मैंने दोहरे परिशुद्धता और एकल परिशुद्धता के बीच अंतर के बारे में पढ़ा है। हालांकि, ज्यादातर मामलों में, floatऔर doubleविनिमेय प्रतीत होता है, अर्थात एक या दूसरे का उपयोग परिणामों को प्रभावित नहीं करता है। क्या वास्तव में यह मामला है? फ़्लोट्स और डबल्स इंटरचेंजेबल कब होते हैं? उनके बीच …

420 c++  c  floating-point  precision 

इसलिए मैंने अपने अंतिम प्रश्न का उत्तर पा लिया है (मुझे नहीं पता कि मैंने ऐसा क्यों नहीं सोचा)। जब मैं इसकी उम्मीद नहीं कर रहा था तो मैं एक राउंड doubleका उपयोग कर coutरहा था। मैं पूर्ण सटीकता का उपयोग करके coutप्रिंट कैसे बना सकता हूं double?

331 c++  floating-point  precision  iostream  cout 

मैं 2 दशमलव स्थानों पर एक संख्या प्रदर्शित करना चाहता था। मैंने सोचा कि मैं toPrecision(2)जावास्क्रिप्ट में उपयोग कर सकता हूं । हालांकि, अगर संख्या है 0.05, तो मुझे मिलता है 0.0500। मैं बल्कि यह वही रहना चाहते हैं। इसे JSbin पर देखें । इसे करने का बेहतरीन तरीका क्या …

315 javascript  floating-point  precision 

मेरे पास एक डेटाबेस में निर्दिष्ट कॉलम है: दशमलव (5,2) कोई इसकी व्याख्या कैसे करता है? SQL सर्वर प्रबंधन स्टूडियो में देखे गए कॉलम के गुणों के अनुसार मैं देख सकता हूं कि इसका अर्थ है: दशमलव (न्यूमेरिक सटीक, न्यूमेरिक स्केल)। वास्तविक शब्दों में सटीक और पैमाने का क्या मतलब …

245 sql  database  decimal  scale  precision 

मैं वास्तव में मिलीसेकंड परिशुद्धता के साथ वास्तविक समय का एक समय टिकट कैसे बना सकता हूं? मुझे 16.4.2013 9: 48: 00: 123 कुछ चाहिए। क्या यह संभव है? मेरे पास एक आवेदन है, जहां मैं प्रति सेकंड 10 बार मूल्यों का नमूना लेता हूं, और मुझे उन्हें एक ग्राफ …

231 c#  datetime  precision  milliseconds 

फ़्लोटिंग पॉइंट नंबरों के रूप में संग्रहीत होने पर कुछ संख्या सटीकता क्यों खो देती है? उदाहरण के लिए, दशमलव संख्या 9.2को दो दशमलव पूर्णांक ( 92/10) के अनुपात के रूप में बिल्कुल व्यक्त किया जा सकता है , दोनों को बाइनरी ( 0b1011100/0b1010) में बिल्कुल व्यक्त किया जा सकता …

198 floating-point  language-agnostic  precision 

मैं योग की कोशिश कर 1 + 2 + ... + 1000000000रहा हूं, लेकिन मुझे PHP और Node.js में अजीब परिणाम मिल रहे हैं । पीएचपी $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 Node.js …

192 php  node.js  precision  integer-overflow  integer-arithmetic 

हाल ही में मुझे एक डबल पाठ में धारावाहिक बनाना पड़ा है, और फिर इसे वापस लेना है। मूल्य के बराबर नहीं लगता है: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False लेकिन MSDN: Standard …

185 c#  double  tostring  precision 

एकल परिशुद्धता फ्लोटिंग पॉइंट ऑपरेशन और डबल प्रिसिजन फ़्लोटिंग ऑपरेशन में क्या अंतर है? मुझे वीडियो गेम कंसोल के संबंध में व्यावहारिक रूप से दिलचस्पी है। उदाहरण के लिए, क्या निनटेंडो 64 में 64 बिट प्रोसेसर है और अगर ऐसा होता है तो क्या इसका मतलब यह होगा कि यह …

168 floating-point  precision  processor  operations 

नहीं, यह एक और "क्यों (1 / 3.0) * 3! = 1" प्रश्न नहीं है। मैं हाल ही में फ्लोटिंग-पॉइंट्स के बारे में पढ़ रहा हूं; विशेष रूप से, एक ही गणना विभिन्न आर्किटेक्चर या अनुकूलन सेटिंग्स पर अलग- अलग परिणाम कैसे दे सकती है । यह वीडियो गेम के …

155 c#  .net  floating-point  precision  ieee-754 

मुझे पता है कि 0.1दशमलव संख्या को एक परिमित बाइनरी नंबर ( स्पष्टीकरण ) के साथ बिल्कुल नहीं दर्शाया जा सकता है , इसलिए double n = 0.1कुछ सटीकता खो जाएगी और बिल्कुल नहीं होगी 0.1। दूसरी तरफ 0.5इसका सही प्रतिनिधित्व किया जा सकता है क्योंकि यह है 0.5 = …

152 java  floating-point  double  precision 

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } उपरोक्त कोड प्रिंट: 11.399999999999 मैं इसे सिर्फ प्रिंट करने के लिए कैसे प्राप्त करूंगा (या इसे इस प्रकार उपयोग कर सकता हूं) 11.4?

149 java  floating-point  double  precision 

एक डबल को देखते हुए, मैं इसे दशमलव बिंदु के बाद सटीक बिंदुओं की एक संख्या के लिए गोल करना चाहता हूं , जो PHP के गोल () फ़ंक्शन के समान है। डार्ट डॉक्स में मैं जो सबसे करीबी चीज पा सकता हूं, वह डबल है। स्ट्रींगरिपर्सप्रेशन (), लेकिन यह …

125 dart  precision  double-precision 

मैं जावास्क्रिप्ट के लिए नया हूं और बस खोजा गया toFixed()और toPrecision()संख्याओं को गोल करना है। हालाँकि, मैं यह पता नहीं लगा सकता कि दोनों में क्या अंतर है। बीच क्या अंतर है number.toFixed()और number.toPrecision()?

124 javascript  rounding  precision