अक्षांश और देशांतर में दिए गए पदों पर पाइथागोरसिन सूत्र का उपयोग करना कम समझ में आता है, जैसे कि, किसी वर्ग के लिए सूत्र का उपयोग करके एक वृत्त के क्षेत्रफल की गणना करना: हालाँकि यह एक संख्या का उत्पादन करता है, लेकिन यह मानने का कोई कारण नहीं है कि इसे काम करना चाहिए।
यद्यपि छोटे पैमानों पर कोई भी चिकनी सतह एक विमान की तरह दिखती है, पाइथोगोरियन सूत्र की सटीकता का उपयोग किए गए निर्देशांक पर निर्भर करता है। जब वे निर्देशांक एक क्षेत्र (या दीर्घवृत्त) पर अक्षांश और देशांतर होते हैं, तो हम यह उम्मीद कर सकते हैं
देशांतर की रेखाओं के साथ दूरियाँ यथोचित सटीक होंगी।
भूमध्य रेखा के साथ दूरियां काफी सटीक होंगी।
अक्षांश और देशांतर में अंतर के अनुपात में अन्य सभी दूरियां त्रुटिपूर्ण होंगी।
दूरी की गणना के प्रारंभ और अंत बिंदु पर त्रुटि निर्भर करती है। हालाँकि, क्योंकि दोनों गोले और दीर्घवृत्त धुरी के चारों ओर एक गोलाकार समरूपता है, त्रुटि केवल अनुदैर्ध्य के अंतर पर निर्भर करती है , इसलिए इस त्रुटि का अध्ययन करने के लिए हम मूल मेरियनियन में होने की उत्पत्ति का बिंदु ले सकते हैं। चूँकि गोला और दीर्घवृत्त दोनों एक उत्तर-दक्षिण प्रतिबिंब के तहत सममित हैं, हमें केवल दक्षिणी गोलार्ध में उत्पत्ति के बिंदुओं का अध्ययन करने की आवश्यकता है। ऐसे किसी भी बिंदु के लिए हम रिश्तेदार त्रुटि का एक समोच्च नक्शा खींच सकते हैं, जो कि [पाइथागोरस गणना] / [सही दूरी] के बराबर है।
पाइथागोरसियन सूत्र, पृथ्वी के औसत त्रिज्या का उपयोग करता है
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
जहाँ dx देशांतरों में अंतर होता है और डाई अक्षांशों में, दोनों डिग्री में अंतर होता है। ( एंटिमेरिडियन को पार करते समय dx का सही मान देने के लिए लॉन्गिट्यूड वैल्यू में अंतर modulo 360 घटाया जाता है; ऐसा नहीं करने से कृत्रिम रूप से बड़ी त्रुटियां सामने आएंगी जो हमें खुद पाइथागोरस सूत्र के बारे में कुछ नहीं बताती हैं।)
निम्नलिखित भूखंड WGS 84 ellipsoid पर अक्षांशों के लिए सही दूरी की तुलना में -70 से 0 से 10 डिग्री की वृद्धि में सापेक्ष त्रुटि दिखाते हैं। क्षैतिज निर्देशांक अनुदैर्ध्य में अंतर है और ऊर्ध्वाधर समन्वय गंतव्य का अक्षांश है। प्रकाश क्षेत्रों में अपेक्षाकृत छोटी त्रुटि होती है: समोच्च रेखाएं 1, 1.01, 1.02, 1.05, 1.1, 1.2, 1.5, 2, आदि पर होती हैं (कोनों में शुद्ध सफेद क्षेत्र ऐसे स्थान हैं जहां त्रुटि इन आकृति की सीमा से आगे जाती है ।) लाल बिंदु मूल के बिंदु को दर्शाते हैं।
ऊर्ध्वाधर सफेद बैंड अपेक्षा की शुद्धता के लिए गवाही देते हैं (1): अनुदैर्ध्य में एक छोटे से अंतर होने पर पायथागॉरियन दूरियां सटीक होती हैं। कम अक्षांशों पर क्षैतिज सफेद बैंड अपेक्षा (2) की पुष्टि करते हैं: भूमध्य रेखा के पास, क्षैतिज दूरी काफी सटीक हैं। अन्यथा, जैसा कि व्यापक गहरे क्षेत्रों द्वारा देखा गया है, अन्य सभी दूरी पर पायथागॉरियन सूत्र खराब है।
हम अधिकतम का मात्रात्मक अनुमान लगा सकते हैंपास के बिंदुओं के जोड़े के लिए त्रुटि (भीतर, कहते हैं, एक दूसरे के कुछ सौ किलोमीटर)। स्केल - त्रिज्या के लिए एक उचित मूल्य का उपयोग करना - मेरिडियन के साथ सच है, लेकिन अक्षांश के एक चक्र के साथ यह अक्षांश के सेकंड द्वारा लगभग गलत करता है। उदाहरण के लिए, 40 डिग्री के अक्षांश पर सेकंड 1.31 है, पायथागॉरियन फॉर्मूला लागू करने से पूर्व-पश्चिम दिशा में लगभग 31% बहुत बड़ी दूरी हो जाएगी। (-40 डिग्री अक्षांश पर उत्पत्ति के एक बिंदु के लिए यह ऊपरी दाएं समोच्च भूखंड में स्पष्ट है, जहां लाल डॉट के पूर्व-पश्चिम क्षेत्र में 1.2 और 1.5 आकृति के बीच स्थित है।) अन्य सभी दिशाओं में कम दूरी होगी। 0% और 31% के बीच कुछ राशि से बहुत बड़ा; लंबी दूरी तक और भी अधिक हो सकते हैं (जैसा कि समोच्च भूखंड दिखाते हैं)।
