रिवर्स-मोड स्वचालित भेदभाव के चरण-दर-चरण उदाहरण

यकीन नहीं होता कि यह सवाल यहाँ है, लेकिन यह अनुकूलन में ढाल के तरीकों से निकटता से संबंधित है, जो यहाँ विषय पर लगता है। वैसे भी, अगर आपको लगता है कि कुछ अन्य समुदाय के विषय में बेहतर विशेषज्ञता है तो आप बेझिझक पलायन कर सकते हैं।

संक्षेप में, मैं रिवर्स-मोड स्वचालित भेदभाव के चरण-दर-चरण उदाहरण की तलाश कर रहा हूं । इस विषय पर उतना साहित्य नहीं है और मौजूदा कार्यान्वयन (जैसे टेन्सरफ्लो में एक ) को इसके पीछे के सिद्धांत को जानने के बिना समझना मुश्किल है। इस प्रकार मैं बहुत आभारी रहूंगा यदि कोई व्यक्ति विस्तार से दिखा सकता है कि हम क्या करते हैं , हम इसे कैसे संसाधित करते हैं और हम कम्प्यूटेशनल ग्राफ से क्या निकालते हैं ।

प्रश्नों की एक जोड़ी है कि मैं सबसे अधिक कठिनाइयों के साथ है:

बीज - हमें उनकी आवश्यकता क्यों है?
रिवर्स भेदभाव नियम - मुझे पता है कि आगे भेदभाव कैसे करना है, लेकिन हम कैसे पिछड़ जाते हैं? से उदाहरण में उदाहरण के लिए इस खंड , हम कैसे है कि जानते हो $\bar{w_2}=\bar{w_3}w_1$ ?
क्या हम केवल प्रतीकों के साथ काम करते हैं या वास्तविक मूल्यों से गुजरते हैं ? में उदाहरण के लिए एक ही उदाहरण हैं, $w_i$ और प्रतीकों या मूल्यों? $\bar{w_i}$

— ffriend
स्रोत

"हैंड्स-ऑन मशीन लर्निंग विद स्किकिट-लर्न एंड टेन्सरफ्लो" परिशिष्ट डी मेरी राय में बहुत अच्छी व्याख्या देता है। मेरा यही सुझाव है।

— अगस्टिन बाराचाइना

मान लीजिए कि हमारे पास एक्सप्रेशन $z = x_1x_2 + \sin(x_1)$ और आप डेरिवेटिव खोजना चाहते हैं $\frac{dz}{dx_1}$ और $\frac{dz}{dx_2}$ । रिवर्स-मोड AD इस कार्य को 2 भागों में विभाजित करता है, अर्थात्, आगे और रिवर्स पास।

अग्रवर्ती पारण

सबसे पहले, हम अपनी जटिल अभिव्यक्ति को आदिम लोगों के समूह में शामिल करते हैं, यानी अधिकांश एकल फ़ंक्शन कॉल में अभिव्यक्ति। ध्यान दें कि मैंने निरंतरता के लिए इनपुट और आउटपुट चर का नाम बदला है, हालांकि यह आवश्यक नहीं है:

w_{1} = x_{1}

$w_1 = x_1$

w_{2} = x_{2}

$w_2 = x_2$

w_{3} = w_{1} w_{2}

$w_3 = w_1w_2$

w_{4} = \sin (w_{1})

$w_4 = \sin(w_1)$

w_{5} = w_{3} + w_{4}

$w_5 = w_3 + w_4$

z = w_{5}

$z = w_5$

इस प्रतिनिधित्व का लाभ यह है कि प्रत्येक अलग अभिव्यक्ति के लिए भेदभाव नियम पहले से ही ज्ञात हैं। उदाहरण के लिए, हम जानते हैं कि व्युत्पन्न $\sin$ है $\cos$ , और इसलिए $\frac{dw_4}{dw_1} = \cos(w_1)$ । हम नीचे दिए गए पास में इस तथ्य का उपयोग करेंगे।

अनिवार्य रूप से, फॉरवर्ड पास में इनमें से प्रत्येक भाव का मूल्यांकन करना और परिणामों को सहेजना शामिल है। कहें, हमारे इनपुट हैं: $x_1 = 2$ और $x_2 = 3$ । तो हमारे पास हैं:

w_{1} = {एक्स}_{1} = 2

$w_1 = x_1 = 2$

w_{2} = {एक्स}_{2} = 3

$w_2 = x_2 = 3$

w_{3} = w_{1} w_{2} = 6

$w_3 = w_1w_2 = 6$

w_{4} = पाप (w_{1}) = 0.9

$w_4 = \sin(w_1) ~= 0.9$

w_{5} = w_{3} + w_{4} = 6.9

$w_5 = w_3 + w_4 = 6.9$

z = w_{5} = 6.9

$z = w_5 = 6.9$

रिवर्स पास

यह जादू की शुरुआत है, और यह श्रृंखला के नियम से शुरू होता है । अपने मूल रूप में, चेन नियम कहता है कि यदि आपके पास वेरिएबल $t(u(v))$ जो $u$ पर निर्भर करता है , जो अपनी बारी में, $v$ पर निर्भर करता है , तो:

\frac{घ टी}{घ v} = \frac{घ टी}{घ यू} \frac{घ यू}{घ v}

$\frac{dt}{dv} = \frac{dt}{du}\frac{du}{dv}$

या, यदि $t$ पर निर्भर करता है $v$ कई रास्ते / चर के माध्यम से $u_i$ , जैसे:

{यू}_{1} = च (v)

$u_1 = f(v)$

{यू}_{2} = जी (v)

$u_2 = g(v)$

टी = ज ({यू}_{1}, {यू}_{2})

$t = h(u_1, u_2)$

तब ( यहां प्रमाण देखें ):

\frac{घ टी}{घ v} = \underset{मैं}{Σ} \frac{घ टी}{घ {यू}_{मैं}} \frac{घ {यू}_{मैं}}{घ v}

$\frac{dt}{dv} = \sum_i \frac{dt}{du_i}\frac{du_i}{dv}$

अभिव्यक्ति ग्राफ के संदर्भ में, हम एक अंतिम नोड अगर $z$ और इनपुट नोड्स $w_i$ से, और पथ $z$ करने के लिए $w_i$ मध्यवर्ती नोड्स के माध्यम से चला जाता है $w_p$ (यानी $z = g(w_p)$ जहां $w_p = f(w_i)$ ), हम व्युत्पन्न पा सकते हैं $\frac{dz}{dw_i}$ as

\frac{d z}{d w_{i}} = \sum_{p \in p a r e n t s (i)} \frac{d z}{d w_{p}} \frac{d w_{p}}{d w_{i}}

$\frac{dz}{dw_i} = \sum_{p \in parents(i)} \frac{dz}{dw_p} \frac{dw_p}{dw_i}$

दूसरे शब्दों में, उत्पादन चर के व्युत्पन्न गणना करने के लिए $z$ किसी भी मध्यवर्ती या इनपुट चर wrt $w_i$ , हम केवल अपने माता-पिता के डेरिवेटिव और सूत्र आदिम अभिव्यक्ति के व्युत्पन्न गणना करने के लिए पता करने की जरूरत $w_p = f(w_i)$ ।

अंत में रिवर्स पास शुरू होता है (यानी $\frac{dz}{dz}$ ) और सभी निर्भरताओं के लिए पिछड़ों का प्रचार करता है। यहां हमारे पास ("बीज" के लिए अभिव्यक्ति):

\frac{d z}{d z} = 1

$\frac{dz}{dz} = 1$

यही कारण है कि "में परिवर्तन के रूप में पढ़ा जा सकता है $z$ वास्तव में एक ही परिवर्तन में परिणाम $z$ " है, जो काफी स्पष्ट है।

तब हम जानते हैं कि $z = w_5$ और इसी तरह:

\frac{d z}{d w_{5}} = 1

$\frac{dz}{dw_5} = 1$

$w_5$ रैखिक पर निर्भर करता है $w_3$ और $w_4$ , इसलिए $\frac{dw_5}{dw_3} = 1$ और $\frac{dw_5}{dw_4} = 1$ । श्रृंखला नियम का उपयोग करके हम पाते हैं:

\frac{d z}{d w_{3}} = \frac{d z}{d w_{5}} \frac{d w_{5}}{d w_{3}} = 1 \times 1 = 1

$\frac{dz}{dw_3} = \frac{dz}{dw_5} \frac{dw_5}{dw_3} = 1 \times 1 = 1$

\frac{d z}{घ w_{4}} = \frac{घ z}{घ w_{5}} \frac{घ w_{5}}{घ w_{4}} = 1 \times 1 = 1

$\frac{dz}{dw_4} = \frac{dz}{dw_5} \frac{dw_5}{dw_4} = 1 \times 1 = 1$

परिभाषा $w_3 = w_1w_2$ और आंशिक व्युत्पन्न के नियमों से, हम पाते हैं कि $\frac{dw_3}{dw_2} = w_1$ । इस प्रकार:

\frac{घ z}{घ w_{2}} = \frac{घ z}{घ w_{3}} \frac{घ w_{3}}{घ w_{2}} = 1 \times w_{1} = w_{1}

$\frac{dz}{dw_2} = \frac{dz}{dw_3} \frac{dw_3}{dw_2} = 1 \times w_1 = w_1$

जो, जैसा कि हम पहले से ही आगे पास से जानते हैं, वह है:

\frac{घ z}{घ w_{2}} = w_{1} = 2

$\frac{dz}{dw_2} = w_1 = 2$

अंत में, $w_1$ में योगदान $z$ के माध्यम से $w_3$ और $w_4$ । एक बार फिर, आंशिक डेरिवेटिव के नियमों से हम जानते हैं कि $\frac{dw_3}{dw_1} = w_2$ और $\frac{dw_4}{dw_1} = \cos(w_1)$ । इस प्रकार:

\frac{घ z}{घ w_{1}} = \frac{घ z}{घ w_{3}} \frac{घ w_{3}}{घ w_{1}} + \frac{घ z}{घ w_{4}} \frac{घ w_{4}}{घ w_{1}} = w_{2} + क्योंकि (w_{1})

$\frac{dz}{dw_1} = \frac{dz}{dw_3} \frac{dw_3}{dw_1} + \frac{dz}{dw_4} \frac{dw_4}{dw_1} = w_2 + \cos(w_1)$

और फिर, ज्ञात इनपुट्स देकर, हम इसकी गणना कर सकते हैं:

\frac{घ z}{घ w_{1}} = w_{2} + क्योंकि (w_{1}) = 3 + क्योंकि (2) = 2.58

$\frac{dz}{dw_1} = w_2 + \cos(w_1) = 3 + \cos(2) ~= 2.58$

के बाद से $w_1$ और $w_2$ के लिए सिर्फ उपनाम हैं $x_1$ और $x_2$ , हम अपने जवाब मिल:

\frac{घ z}{घ {एक्स}_{1}} = 2.58

$\frac{dz}{dx_1} = 2.58$

\frac{घ z}{घ {एक्स}_{2}} = 2

$\frac{dz}{dx_2} = 2$

और बस!

यह विवरण केवल स्केलर इनपुट्स, यानी संख्याओं की चिंता करता है, लेकिन वास्तव में इसे वैक्टर और मैट्रेस जैसे बहुआयामी सरणियों पर भी लागू किया जा सकता है। ऐसी वस्तुओं के साथ भावों को अलग करते समय दो बातों को ध्यान में रखना चाहिए:

डेरिवेटिव्स में इनपुट्स या आउटपुट की तुलना में बहुत अधिक आयामीता हो सकती है, उदाहरण के लिए, वेक्टर wrt वेक्टर का व्युत्पन्न एक मैट्रिक्स है और मैट्रिक्स wrt मैट्रिक्स का व्युत्पन्न एक 4-आयामी सरणी (कभी-कभी टेंसर के रूप में संदर्भित) है। कई मामलों में इस तरह के डेरिवेटिव बहुत कम हैं।
आउटपुट ऐरे में प्रत्येक घटक इनपुट ऐर (एस) के 1 या अधिक घटकों का एक स्वतंत्र कार्य है। उदाहरण के लिए यदि $y = f(x)$ और दोनों $x$ और $y$ वैक्टर, कर रहे हैं $y_i$ $y_j$ $x_k$ $\frac{dy_i}{dx_j}$ $y_i$ $x_j$

$\frac{dz}{dw_1} = w_2 + \cos(w_1) = x_2 + \cos(x_1)$

— ffriend
स्रोत

बहुत उपयोगी सवाल / जवाब। धन्यवाद। बस एक मुकम्मल आलोचना: आप बिना समझाए एक पेड़ की संरचना पर चले जाते हैं (यह तब है जब आप माता-पिता आदि के बारे में बात करना शुरू करते हैं)

— MadHatter

यह भी स्पष्ट नहीं होगा कि हमें बीज की आवश्यकता क्यों है।

— मदहोश

\frac{d z}{d z} = 1

$\frac{dz}{dz} = 1$

धन्यवाद! मैंने देखा कि जब आपको एक से अधिक "बीज" सेट करने होते हैं, तो आम तौर पर एक 1 चुनता है और 0. मैं जानना चाहता हूं कि क्यों। मेरा मतलब है, एक खुद को एक अंतर लेखन के "भागफल" लेता है, इसलिए "1" कम से कम सहज ज्ञान युक्त न्यायसंगत है .. लेकिन 0 से क्या? और क्या होगा अगर किसी को 2 से अधिक बीज लेने हैं?

— मध्याह्न

जहाँ तक मैं समझता हूँ, एक से अधिक बीजों का उपयोग केवल फॉरवर्ड-मोड AD में किया जाता है। इस मामले में आप बीज को 1 के लिए एक इनपुट चर के लिए सेट करते हैं जिसे आप सम्मान के साथ अलग करना चाहते हैं और बीज को अन्य सभी इनपुट चर के लिए 0 पर सेट करें ताकि वे आउटपुट मूल्य में योगदान न करें। रिवर्स-मोड में आप बीज को आउटपुट चर में सेट करते हैं , और आपके पास सामान्य रूप से केवल एक आउटपुट चर होता है। मुझे लगता है, आप कई आउटपुट चर के साथ रिवर्स-मोड एडी पाइपलाइन का निर्माण कर सकते हैं और उनमें से सभी को सेट कर सकते हैं, लेकिन आगे के मोड के समान प्रभाव प्राप्त करने के लिए 0 से 0, लेकिन मैंने कभी इस विकल्प की जांच नहीं की है।

— ffriend