समस्या शब्द "अच्छी तरह से वातानुकूलित" द्वारा इंगित किया गया है। यह कंप्यूटर अंकगणित का मुद्दा है, गणित का नहीं।
यहाँ पर विचार करने के लिए मूल तथ्य हैं:
पृथ्वी पर एक रेडियन लगभग 10 ^ 7 मीटर तक फैला है।
0 के पास तर्क x के लिए कोजाइन फ़ंक्शन लगभग 1 - x ^ 2/2 के बराबर है ।
डबल-सटीक फ़्लोटिंग पॉइंट में सटीक के लगभग 15 दशमलव अंक होते हैं।
अंक (2) और (3) का अर्थ है कि जब x एक मीटर के आसपास होता है, या 10 ^ -7 रेडियन (बिंदु 1) होता है, तो लगभग सभी सटीकता खो जाती है: 1 - (10 ^ -7) ^ 2 = 1 - 10 ^ - 14 एक गणना है जिसमें 15 महत्वपूर्ण अंकों में से पहले 14 सभी रद्द करते हैं, जिससे परिणाम का प्रतिनिधित्व करने के लिए केवल एक अंक होता है। इसके चारों ओर फ़्लिप करना (जो कि उलटा कोसाइन, "एसीओस", करता है) का अर्थ है कि मीटर-लंबाई की दूरी के अनुरूप कोणों के लिए एकिंग कंप्यूटिंग किसी भी सार्थक सटीकता के साथ नहीं किया जा सकता है। (कुछ ख़राब मामलों में परिशुद्धता का नुकसान एक मूल्य देता है जहाँ एको को परिभाषित भी नहीं किया जाता है, इसलिए कोड टूट जाएगा और कोई जवाब नहीं देगा, एक बकवास जवाब देगा, या मशीन को क्रैश कर देगा।) इसी तरह के विचार बताते हैं कि आपको उलटा कोसाइन का उपयोग करने से बचना चाहिए। अगर कुछ सौ मीटर से कम की दूरी शामिल है, तो आप कितना सटीक खोने के लिए तैयार हैं पर निर्भर करता है।
भोले-भाले कानून में एकोस द्वारा निभाई गई भूमिका एक कोण को दूरी में परिवर्तित करना है। यह भूमिका हवन के सूत्र में atan2 द्वारा निभाई जाती है। एक छोटे कोण x की स्पर्शरेखा लगभग x के बराबर है। नतीजतन, किसी संख्या का व्युत्क्रम स्पर्शरेखा, उस संख्या के लगभग होने पर, अनिवार्य रूप से सटीकता में कोई नुकसान नहीं होने के साथ गणना की जाती है। यही कारण है कि हैवरसाइन फॉर्मूला, हालांकि गणितीय रूप से कॉशन फॉर्मूला के कानून के बराबर है, छोटी दूरी (1 मीटर या उससे कम के आदेश पर) के लिए बहुत बेहतर है ।
यहाँ विश्व पर 100 यादृच्छिक बिंदु-युग्मों का उपयोग करते हुए दो सूत्रों की तुलना की गई है (गणितज्ञ के दोहरे-सटीक गणनाओं का उपयोग करके)।
आप देख सकते हैं कि लगभग 0.5 मीटर से कम दूरी के लिए, दो सूत्र विचलन करते हैं। 0.5 मीटर से ऊपर वे सहमत हैं। यह दिखाने के लिए कि वे कितनी निकटता से सहमत हैं, अगला प्लॉट कॉज़न्स के कानून के अनुपात को दर्शाता है: एक और 100 यादृच्छिक बिंदु जोड़े के लिए हैवेरिन परिणाम, उनके अक्षांश और देशांतर के साथ यादृच्छिक रूप से 5 मीटर तक भिन्न होते हैं।
इससे पता चलता है कि एक बार दूरी 5-10 मीटर से अधिक हो जाने पर कोसाइन सूत्र का नियम 3-4 दशमलव स्थानों के लिए अच्छा है। सटीकता के दशमलव स्थानों की संख्या चौगुनी बढ़ जाती है; इस प्रकार 50-100 मीटर (परिमाण का एक क्रम) पर आपको 5-6 डीपी सटीकता (परिमाण के दो आदेश) मिलते हैं; 500-1000 मीटर पर आपको 7-8 डीपी आदि मिलते हैं।