सूचना ज्यामिति में स्पष्टता

यह सवाल अमारी द्वारा घुमावदार एक्सपोनेंशियल फैमिली-कर्व्ड और सूचना हानि के पेपर डिफरेंशियल ज्यामिति से संबंधित है ।

पाठ इस प्रकार है।

चलो $S^n=\{p_{\theta}\}$ एक होना $n$ एक समन्वय प्रणाली के साथ संभाव्यता वितरण की आयामी कई गुना $\theta=(\theta_1,\dots,\theta_n)$ , जहां $p_{\theta}(x)>0$ माना जाता है ...

हम हर बिंदु संबंध हो सकता है $\theta$ के $S^n$ एक समारोह को ले जाने के रूप में $\log p_{\theta}(x)$ की $x$ ...

चलो $T_{\theta}$ की स्पर्शज्या स्थान हो $S^n$ पर $\theta$ है, जो मोटे तौर पर कहा जाए तो की एक छोटी पड़ोस के एक linearized संस्करण के साथ पहचान $\theta$ में $S^n$ । चलो $e_i(\theta), i=1,\dots,n$ के प्राकृतिक आधार होना $T_{\theta}$ समन्वित प्रणाली के साथ जुड़े ...

प्रत्येक बिंदु के बाद से $\theta$ के $S^n$ एक समारोह में किया जाता है $\log p_{\theta}(x)$ की $x$ , यह संबंध के लिए स्वाभाविक है $e_i(\theta)$ में $\theta$ समारोह प्रतिनिधित्व के रूप में

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x) .

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x).$

मैं अंतिम कथन को नहीं समझता। यह उपर्युक्त कागज के खंड 2 में दिखाई देता है। उपरोक्त समीकरण द्वारा स्पर्शरेखा स्थान का आधार कैसे दिया जाता है? यह मददगार होगा अगर इस समुदाय में कोई इस तरह की सामग्री से परिचित हो तो मुझे यह समझने में मदद मिल सकती है। धन्यवाद।

अपडेट 1:

हालांकि मुझे लगता है कि इस बात से सहमत (@aginensky से) यदि तो रैखिक स्वतंत्र हैं $\frac{\partial}{\partial\theta_i}p_{\theta}$ भी रैखिक स्वतंत्र हैं, कैसे इन पहली जगह में स्पर्श अंतरिक्ष के सदस्यों बहुत स्पष्ट हैं नहीं है। तोकैसे हो सकता है $\frac{\partial}{\partial\theta_i}\log p_{\theta}$ स्पर्श अंतरिक्ष के लिए आधार के रूप में विचार किया जाना। किसी भी मदद की सराहना की है। $\frac{\partial}{\partial\theta_i}\log p_{\theta}$

अपडेट 2:

@aginensky: अपनी पुस्तक में अमारी निम्नलिखित कहता है:

आइए हम उस मामले पर विचार करें जहां , , जहां हम को सबसेट के रूप में मानते हैं, पर सभी (कड़ाई से) सकारात्मक संभाव्यता के उपायों का सेट है। । वास्तव में, एफाइन स्पेस का एक ओपन सब्मिट है $S^n=\mathcal{P}(\mathcal{X})$ $\mathcal{X}=\{x_0,\dots,x_n\}$ $\mathcal{P}(\mathcal{X})$ $\mathbb{R}^{\mathcal{X}}=\{X\big|X:\mathcal{X}\to \mathbb{R}\}$ $\mathcal{P}(\mathcal{X})$ । $\{X\big |\sum_x X(x)=1\}$

तब स्पर्श अंतरिक्ष के हर बिंदु पर स्वाभाविक रूप से साथ रैखिक उपस्पेस पहचाना जा सकता है । प्राकृतिक आधार के लिए $T_p(S^n)$ $S^n$ $\mathcal{A}_0=\{X\big |\sum_x X(x)=0\}$ एक coordiante प्रणाली के, हमारे पास $\frac{\partial}{\partial\theta_i}$ $\theta=(\theta_1,\dots,\theta_n)$ । $(\frac{\partial}{\partial\theta_i})_{\theta}=\frac{\partial}{\partial\theta_i}p_{\theta}$

इसके बाद, हमें एक और embedding ले जाने , और की पहचान सबसेट के साथ के । एक स्पर्श वेक्टर तो संचालन के परिणाम का प्रतिनिधित्व करती है को है, जो हम से निरूपित । विशेष रूप से हमारे पास है $p\mapsto \log p$ $S^n$ $\log S^n:=\{\log p\big |p\in S^n\}$ $\mathbb{R}^{\mathcal{X}}$ $X\in T_p(S^n)$ $X$ $p\mapsto \log p$ $X^{(e)}$ । यह स्पष्ट है किऔर वह $(\frac{\partial}{\partial\theta_i})_{\theta}^{(e)}=\frac{\partial}{\partial\theta_i}\log p_{\theta}$ $X^{(e)}=X(x)/p(x)$

T_{p}^{(e)} (S^{n}) = {X^{(e)} | X \in T_{p} (S^{n})} = {A \in R^{X} | \sum_{x} A (x) p (x) = 0} .

$T_p^{(e)}(S^n)=\{X^{(e)}\big |X\in T_p(S^n)\}=\{A\in \mathbb{R}^{\mathcal{X}}\big |\sum_x A(x)p(x)=0\}.$

मेरा प्रश्न: यदि दोनों और $\frac{\partial}{\partial\theta_i}$ स्पर्श अंतरिक्ष के लिए आधार हैं तो इस तथ्य यह है कि विरोध नहीं होगाऔर अलग हैं और $(\frac{\partial}{\partial\theta_i})^{(e)}$ $T_p$ $T_p^{(e)}$ ? $\frac{\partial}{\partial\theta_i}^{(e)}\in T_p^{(e)}$

मुझे लगता है कि ( ) और के बीच एक जुड़ाव प्रतीत होता है । यदि आप इसे स्पष्ट कर सकते हैं, तो यह बहुत मदद करेगा। आप इसे उत्तर के रूप में दे सकते हैं। $S^n,T_p$ $(\log S^n,T_p^{(e)})$

— अशोक
स्रोत

निजी तौर पर, मैं आपका भ्रम समझता हूं। यह पी निर्देशांक उपयोग करने के लिए प्राकृतिक नहीं लगता है "

"स्पर्श अंतरिक्ष के लिए। इसलिए हम ले टैक्सी आपका प्रश्न, स्थानीय है

स्थानीय निर्देशांकों के रूप में। स्पर्श अंतरिक्ष के लिए हमेशा की तरह निर्देशांक हैं

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x)

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)$

θ_{i}

$\theta_{i}$

। चिकनाई, गैर लुप्त व्युत्पन्न, आदि के

पर उचित परिस्थितियों को देखते हुए, फिर चेन नियम द्वारा, व्यक्ति स्पर्शरेखा स्थान के मानक आधार ले रहा है और इसे कार्यों से गुणा कर रहा है, जो सामान्य रूप से, अभी भी एक आधार होगा।

\frac{\partial}{\partial θ_{i}}

$\frac{\partial}{\partial\theta_i}$

p_{θ}

$p_{\theta}$

— meh

मैंने अपनी टिप्पणी को स्पष्टता के लिए संपादित करने की कोशिश की और अनुमति नहीं दी गई। यदि आप अधिक जानकारी चाहते हैं तो मुझे बताएं।

— meh

शुक्रिया @aginensky: आपका मतलब है, क्योंकि

, यह भी स्पर्श अंतरिक्ष के लिए एक आधार, सही है?

\frac{\partial}{\partial θ_{i}} \log p_{θ} (x) = 1 / p_{θ} (x) \frac{\partial}{\partial θ_{i}} p_{θ} (x)

$\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)=1/p_{\theta}(x)\frac{\partial}{\partial\theta_i}p_{\theta}(x)$

— अशोक

The final statement is a (corrupted) version of one definition of a tangent space. Strictly speaking, the tangent space at a point of a differentiable manifold is the (vector space) dual to the space of derivations of germs of differentiable functions in a neighborhood of that point. A basis for the dual is

{d θ_{i}}

$\{d\theta_i\}$ and, by definition, the

{\frac{\partial}{\partial θ_{i}}}

$\{\frac{\partial}{\partial\theta_i}\}$ is its dual basis. A standard reference on this material is Volume 1 of Michael Spivak's Differential Geometry, amazon.com/….

— whuber

@ Ashok - yes. I would consider what I wrote to be based on a terse version of one definition of a tangent space. Of course since the cotangent space is dual to the tangent space, one could equally argue that

d θ

$d\theta$ are the true dual basis. In any event as long as the

p_{θ}

$p_{\theta}$ don't vanish, I think you're good.

— meh

My comments are so long, I am putting them in as an answer.

I think the question is more philosophical than mathematical at this point. Namely, what do you mean by a space, and in this case, a manifold? The typical definition of a manifold does not involve an embedding into an affine space. This is the 'modern' (150 year old?) approach. For example, to Gauss, a manifold was a manifold with a specific embedding into a specific affine space ( $R^n$ ). If one has a manifold with an embedding in a specific $R^n$ , then the tangent space (at any point of the manifold) is isomorphic to a specific subspace of the tangent space to $R^n$ at that point. Note that the tangent space to $R^n$ at any point is identified with the 'same' $R^n$ .

I think the point is that in the Amari article, the space he refers to as $S^n$ comes with some 'natural' embedding in an affine space with coordinates the $\theta_{i}$ for which the $p_{\theta}$ can be considered as coordinates on the tangent space of $S^n$ . I might add that it is only clear if the function $p$ is 'general' in some sense- for degenerate $p$ , this will fail. For example if the function didn't involve all the variables $\theta_{i}$ . The main point is that this embedding of the manifold in a specific $R^n$ , gives rise to a specific identification of the tangent space with the $p_{\theta}$ . His next point is that because of the properties of $p$ , he can map his manifold using the log function to another affine space in which the tangent space has a different identification in terms of the new coordinates (the logs and their derivatives). He then says that because of properties of his situation, the two manifolds are isomorphic and the map induces an isomorphism on the tangent spaces. That leads to an identification (i.e., isomorphism) of the two tangent spaces.

The key idea is that the two tangent spaces are not the same sets, but are isomorphic (which is basically Greek for 'same') after the correct identification. For example, is the group of all permutations of $\{1,2,3\}$ the 'same' group as the group of all permutations of $\{a,b,c\}$ ? As a simple thought experiment, consider $R^{+}$ , the positive reals mapping to $R$ , all the reals under the map log. Pick your favorite real number $>0$ and consider what the map is on tangent spaces. Am I finally understanding your question? A caveat is in order, namely that differential geometry is not my main area of expertise. I think I've got it right, but feel free to criticize or still question this answer.

— meh
स्रोत

Your meaning of "isomorphic" is not fully clear, but it seems to be only a very weak one; namely, the one given by the pushforward

f_{*}

$f_{*}$ of an invertible differentiable map, which is just some invertible linear transformation. The key idea to doing geometry is to obtain a meaningful and useful Riemanninan metric defined on the manifold. The relevant sense of "isomorphism" would be isometry: that is, the map between the tangent spaces must be distance-preserving.

— whuber

@whuber. Indeed, my comments are only on the differential geometry of the situation and the tangent space. I am not at all clear on what conditions on the

p

$p$ would be necessary to make the map an isometry. But as I understood the question, it was really getting at what was the difference between an identification ('the same') and an isomorphism.

— meh

@whuber: The relevant Riemannian metric here is given by

G = [g_{i, j}]

$G=[g_{i,j}]$ , where

g_{i, j} = \sum_{x} \partial_{i} p_{θ} (x) \partial_{j} \log p_{θ} (x)

$g_{i,j}=\sum_x\partial_i p_{\theta}(x)~\partial_j\log p_{\theta}(x)$ . Does this suggest

\partial_{j} \log p_{θ}

$\partial_j\log p_{\theta}$ can also be regarded as tangent vectors?

— Ashok