18.4: Solución de problemas de mínimos cuadrados (lineales)
- Page ID
- 87823
\( \newcommand{\vecs}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \)
\( \newcommand{\vecd}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash {#1}}} \)
\( \newcommand{\id}{\mathrm{id}}\) \( \newcommand{\Span}{\mathrm{span}}\)
( \newcommand{\kernel}{\mathrm{null}\,}\) \( \newcommand{\range}{\mathrm{range}\,}\)
\( \newcommand{\RealPart}{\mathrm{Re}}\) \( \newcommand{\ImaginaryPart}{\mathrm{Im}}\)
\( \newcommand{\Argument}{\mathrm{Arg}}\) \( \newcommand{\norm}[1]{\| #1 \|}\)
\( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\)
\( \newcommand{\Span}{\mathrm{span}}\)
\( \newcommand{\id}{\mathrm{id}}\)
\( \newcommand{\Span}{\mathrm{span}}\)
\( \newcommand{\kernel}{\mathrm{null}\,}\)
\( \newcommand{\range}{\mathrm{range}\,}\)
\( \newcommand{\RealPart}{\mathrm{Re}}\)
\( \newcommand{\ImaginaryPart}{\mathrm{Im}}\)
\( \newcommand{\Argument}{\mathrm{Arg}}\)
\( \newcommand{\norm}[1]{\| #1 \|}\)
\( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\)
\( \newcommand{\Span}{\mathrm{span}}\) \( \newcommand{\AA}{\unicode[.8,0]{x212B}}\)
\( \newcommand{\vectorA}[1]{\vec{#1}} % arrow\)
\( \newcommand{\vectorAt}[1]{\vec{\text{#1}}} % arrow\)
\( \newcommand{\vectorB}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \)
\( \newcommand{\vectorC}[1]{\textbf{#1}} \)
\( \newcommand{\vectorD}[1]{\overrightarrow{#1}} \)
\( \newcommand{\vectorDt}[1]{\overrightarrow{\text{#1}}} \)
\( \newcommand{\vectE}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash{\mathbf {#1}}}} \)
\( \newcommand{\vecs}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \)
\( \newcommand{\vecd}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash {#1}}} \)
En el Capítulo 17 se consideró la solución de los problemas de mínimos cuadrados: dado\(B \in \mathbb{R}^{m \times n}\) y\(g \in \mathbb{R}^{m}\) encontrar\(z^{*} \in \mathbb{R}^{n}\) cuál minimiza\(\|B z-g\|^{2}\) sobre todo\(z \in \mathbb{R}^{n}\). Mostramos que\(z^{*}\) satisface las ecuaciones normales,\(N z^{*}=B^{\mathrm{T}} g\), donde\(N \equiv B^{\mathrm{T}} B\). Hay (al menos) tres formas en las que podemos implementar esta solución de mínimos cuadrados en MATLAB.
El primero, y lo peor, es escribir\(z s t a r=\operatorname{inv}\left(\mathrm{B}^{\prime} * \mathrm{~B}\right) *\left(\mathrm{~B}^{\prime} * \mathrm{~g}\right)\). El segundo, y un poco mejor, es aprovechar nuestro operador de barra diagonal inversa para escribir zstar_too\(=\left(B^{\prime} * B\right) \backslash\left(B^{\prime} * g\right)\). Sin embargo, ambos enfoques son menos que numéricamente estables (y más generalmente debemos evitar tomar poderes de matrices ya que esto simplemente exacerba cualquier condicionamiento intrínseco o problemas de “sensibilidad”). La tercera opción, y de lejos la mejor, es escribir zstar_best\(=B \backslash g\). Aquí el operador de barra diagonal inversa “reconoce” que no\(B\) es una matriz cuadrada y persigue automáticamente una solución de mínimos cuadrados basada en la\(Q R\) descomposición estable y eficiente que se discute en el Capítulo 17.
Por último, veremos en el Capítulo 19 sobre regresión estadística que se\(\left(B^{\mathrm{T}} B\right)^{-1}\) requerirán algunos elementos de la matriz para construir intervalos de confianza. Si bien es posible calcular de manera eficiente ciertos elementos selectos de esta matriz inversa sin la construcción de la matriz inversa completa, de hecho nuestros sistemas serán relativamente pequeños y por lo tanto inv\(\left(B^{\prime} * B\right)\) es bastante económico. (Sin embargo, la solución del problema de mínimos cuadrados sigue siendo mejor implementada como zstar_best\(=B \backslash \mathrm{g}\), aunque posteriormente formemos la inversa\(\operatorname{inv}\left(B^{\prime} * B\right.\)) para propósitos de intervalos de confianza.)