floating-accuracy पर टैग किए गए जवाब

На сттот вопрос есть ответы на Stack Overflow на русском : Вычисления на числах с плавающей точкой не работают निम्नलिखित कोड पर विचार करें: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 ये अशुद्धि क्यों होती हैं?

2979 math  language-agnostic  floating-point  floating-accuracy 

मुझे पता है कि संकल्प स्वतंत्र समन्वय प्रणाली के कारण UIKitउपयोग करता CGFloatहै। लेकिन हर बार अगर मैं उदाहरण के लिए जाँच करना चाहता हूँ कि frame.origin.xक्या 0यह मुझे बीमार महसूस कर रहा है: if (theView.frame.origin.x == 0) { // do important operation } नहीं है CGFloatझूठे सकारात्मक की चपेट …

391 objective-c  ios  c  floating-point  floating-accuracy 

निम्नलिखित कोड स्पष्ट रूप से गलत है। समस्या क्या है? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

इस java.sun पृष्ठ के अनुसार ==जावा में फ्लोटिंग पॉइंट नंबरों के लिए समानता तुलना ऑपरेटर है। हालाँकि, जब मैं यह कोड टाइप करता हूँ: if(sectionID == currentSectionID) मेरे संपादक में और स्थिर विश्लेषण चलाएं, मुझे मिलता है: "== की तुलना में JAVA0078 फ़्लोटिंग पॉइंट मान" ==फ्लोटिंग पॉइंट वैल्यू की तुलना …

177 java  equality  floating-accuracy 

मुझे पता है कि अधिकांश दशमलव में एक सटीक फ़्लोटिंग पॉइंट प्रतिनिधित्व नहीं है ( क्या फ़्लोटिंग पॉइंट गणित टूट गया है? )। लेकिन मैं नहीं देखता कि क्यों 4*0.1अच्छी तरह से मुद्रित किया जाता है 0.4, लेकिन 3*0.1ऐसा नहीं है, जब दोनों मूल्यों में वास्तव में बदसूरत दशमलव अभ्यावेदन …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

क्या निम्नलिखित उदाहरण में 0 (या अनंत) द्वारा विभाजन प्राप्त करना संभव है? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } सामान्य मामलों में, यह निश्चित रूप से नहीं होगा। लेकिन क्या अगर …

131 floating-point  double  floating-accuracy  ieee-754 

मैं दशमलव संख्याओं को दशमलव स्थानों पर कम करने का प्रयास कर रहा हूँ। कुछ इस तरह: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)सिर्फ सही काम के बारे में करता है, लेकिन यह मूल्य से दूर है। मुझे राउंड ऑफ वैल्यू की जरूरत नहीं है। आशा है कि जावास्क्रिप्ट में …

93 javascript  floating-point  floating-accuracy 

क्या प्रोग्राम को डबल करने का एक तरीका है जो 1.0 के सबसे करीब है, लेकिन वास्तव में 1.0 नहीं है? ऐसा करने का एक आसान तरीका यह होगा कि डबल को एक ही आकार के पूर्णांक को याद रखें, और फिर एक को घटाएं। जिस तरह से IEEE754 फ़्लोटिंग-पॉइंट …

88 c++  floating-point  floating-accuracy