यह इस बात पर निर्भर करता है कि आप किस चीज से बचने की कोशिश कर रहे हैं।
अगर आप किसी ऐसी चीज़ के किसी सर्विस इंटरप्टन से बचने की कोशिश कर रहे हैं, जो वास्तव में क्रिटिकल सर्विस है (मैं सोच रहा हूं कि "अगर मेरा एपीआई कॉल उचित तरीके से नहीं दिया गया तो लोग मर जाएंगे") आपको भारी अक्षमताओं के लिए बस बजट की जरूरत है समर्पित संसाधनों के प्रावधान से बहुत अधिक है। और हाँ, उन्हें समर्पित होना चाहिए, इनमें से कोई भी ट्रैफ़िक स्पाइक्स सामान की अनुमति नहीं देता है, कई सेवाओं की स्पाइकिंग इस प्रकार एक आउटेज का कारण बनेगी।
में अब तक अधिक होने की संभावना परिदृश्य आप कर रहे हैं सेवा नीचे जा रहा है कि असुविधाजनक होगा आप दोनों क्लाइंट और सर्वर पक्षों से समस्या से निपटने कर सकते हैं। हालांकि यह ध्यान देने योग्य है कि यह वास्तव में तार्किक रूप से बहुत अधिक ट्रैफ़िक की समस्या को हल करना असंभव है क्योंकि ट्रैफ़िक को संसाधित किए बिना (जो संसाधनों का उपभोग करता है) आपको पता नहीं चल सकता है कि क्या यह एक रिट्री है, अगर यह एक अनुरोध के लिए पुन: प्रयास है जो सफल था लेकिन गलत तरीके से नियंत्रित किया गया था ग्राहक द्वारा, अगर यह एक डीडीओएस, आदि है, लेकिन आप प्रभाव को कम कर सकते हैं ।
में ग्राहक कोड समझदार पुन: प्रयास करें तर्क जो एक ऊपरी सीमा और शान से नाकाम रहने के लिए एक तंत्र है लिखें। इस तरह से आप अपने उपयोगकर्ताओं को असफल अनुरोधों के अनंत पाश में नहीं बांधते हैं और आप उन्हें बस एक त्रुटि देते हैं जो उन्हें यह बताने की कोशिश करते हैं कि उन्होंने कुछ ही समय में जो किया था।
आपके सर्वर साइड इंफ्रास्ट्रक्चर के लिए सबसे आसान उपाय है थ्रॉटल। अनुरोधों पर कठोर सीमाएँ, खासकर यदि आप अपने विशिष्ट उपयोग के मामले के आधार पर उन्हें तार्किक रूप से आज़मा सकते हैं और फैला सकते हैं (यानी यदि आपके पास एक केंद्रीकृत सेवा है तो कुछ कठिन निर्णय लें, क्या आप भौगोलिक रूप से दूर के अनुरोधों को रोकना शुरू करना चाहते हैं, जिसके परिणामस्वरूप धागे लटक सकते हैं सर्वर साइड? या क्या आप अपने अपरिहार्य अभी तक मामूली आउटेज को समान रूप से वितरित करना चाहते हैं? आदि) यह मूल रूप से इस तथ्य से उबता है कि गेटवे से जानबूझकर 503 लौटना एक बहुत सस्ता है, जो अनुरोध को जाने और 504 डॉलर भेजने की तुलना में बहुत सस्ता है। वैसे भी। मूल रूप से ग्राहकों को उस व्यवहार के लिए बाध्य करें जो आप वर्तमान में प्रदान कर सकते हैं और सही प्रतिक्रिया प्रदान कर सकते हैं ताकि ग्राहक उचित प्रतिक्रिया कर सकें।
