2
रिज प्रतिगमन में "मैट्रिक्स व्युत्क्रम की संख्यात्मक स्थिरता" के लिए स्पष्ट व्याख्या और ओवरफिट को कम करने में इसकी भूमिका
मैं समझता हूं कि हम कम से कम वर्गों के प्रतिगमन समस्या में नियमितीकरण को नियोजित कर सकते हैं w∗=argminw[(y−Xw)T(y−Xw)+λ∥w∥2]w∗=argminw[(y−Xw)T(y−Xw)+λ‖w‖2]\boldsymbol{w}^* = \operatorname*{argmin}_w \left[ (\mathbf y-\mathbf{Xw})^T(\boldsymbol{y}-\mathbf{Xw}) + \lambda\|\boldsymbol{w}\|^2 \right] और इस समस्या का एक बंद-रूप समाधान है: w^=(XTX+λI)−1XTy.w^=(XTX+λI)−1XTy.\hat{\boldsymbol{w}} = (\boldsymbol{X}^T\boldsymbol{X}+\lambda\boldsymbol{I})^{-1}\boldsymbol{X}^T\boldsymbol{y}. हम देखते हैं कि 2 समीकरण में, नियमितीकरण बस λλ\lambda को …