1.8: Ecuaciones lineales simultáneas, N > n

Considera las siguientes ecuaciones

\[a_{11} x_1 + a_{12} x_2 + a_{13} x_3 + b_1 = 0 \label{1.8.1}\]

\[a_{21} x_1 + a_{22} x_2 + a_{23} x_3 + b_2 = 0 \label{1.8.2}\]

\[a_{31} x_1 + a_{32} x_2 + a_{33} x_3 + b_3 = 0 \label{1.8.3}\]

\[a_{41} x_1 + a_{42} x_2 + a_{43} x_3 + b_4 = 0 \label{1.8.4}\]

\[a_{51} x_1 + a_{52} x_2 + a_{53} x_3 + b_5 = 0 \label{1.8.5}\]

Aquí tenemos cinco Ecuaciones en sólo tres incógnitas, y no hay solución que satisfaga exactamente a las cinco Ecuaciones. Nos referimos a estas Ecuaciones como las Ecuaciones de la condición. El problema es encontrar el conjunto de valores de\(x_1\),\(x_2\) y\(x_3\) eso, si bien no satisface ninguna de las Ecuaciones exactamente, se acercará más a satisfacerlas a todas con un error lo más pequeño posible. El problema lo expresó bien Carl Friedrich Gauss en su famosa Theoria Motus. En 1801 Gauss se enfrentó al problema de calcular la órbita del recién descubierto planeta menor Ceres. El problema era calcular los seis elementos de la órbita planetaria, y se enfrentó a resolver más de seis Ecuaciones para seis incógnitas. En el transcurso de esto, inventó el método de mínimos cuadrados. Difícilmente es posible describir la naturaleza del problema con mayor claridad que lo hizo el propio Gauss:

“... como todas nuestras observaciones, a causa de la imperfección de los instrumentos y los sentidos, son sólo aproximaciones a la verdad, una órbita basada únicamente en los seis datos absolutamente necesarios puede seguir siendo susceptible de errores considerables. Para disminuirlos lo más posible, y así alcanzar la mayor precisión alcanzable, no se dará otro método que no sea acumular el mayor número de las observaciones más perfectas, y ajustar los elementos, no para satisfacer este o aquel conjunto de observaciones con absoluta exactitud, sino para estar de acuerdo con todos de la mejor manera posible.”

Si podemos encontrar algún conjunto de valores de\(x_1\),\(x_2\) y\(x_3\) que satisfagan nuestras cinco Ecuaciones bastante de cerca, pero sin necesariamente satisfacer a ninguna de ellas exactamente, encontraremos que, cuando estos valores se sustituyan en los lados izquierdos de las Ecuaciones, los lados de la derecha no lo harán ser exactamente cero, pero será un número pequeño conocido como el residual,\(R\).

Así:

\[a_{11}x_1 + a_{12}x_2 + a_{13}x_3 + b_1 = R_1 \label{1.8.6}\]

\[a_{21}x_1 + a_{22}x_2 + a_{23}x_3 + b_2 = R_2 \label{1.8.7}\]

\[a_{31}x_1 + a_{32}x_2 + a_{33}x_3 + b_3 = R_3 \label{1.8.8}\]

\[a_{41}x_1 + a_{42}x_2 + a_{43}x_3 + b_4 = R_4 \label{1.8.9}\]

\[a_{51}x_1 + a_{52}x_2 + a_{53}x_3 + b_5 = R_5 \label{1.8.10}\]

Gauss propuso un “mejor” conjunto de valores tal que, cuando se sustituye en las Ecuaciones, da lugar a un conjunto de residuos tal que la suma de los cuadrados de los residuales es menor. (En principio sería posible encontrar un conjunto de soluciones que minimizaran la suma de los valores absolutos de los residuales, en lugar de sus cuadrados. Resulta que el análisis y el cálculo involucrados es mucho más difícil que minimizar la suma de los cuadrados, sin ninguna ventaja muy obvia.) \(S\)Sea la suma de los cuadrados de los residuos para un conjunto dado de valores de\(x_1\),\(x_2\) y\(x_3\). Si se cambia alguno de los valores x,\(S\) cambiará - a menos que\(S\) sea un mínimo, en cuyo caso la derivada de\(S\) con respecto a cada variable es cero. Las tres ecuaciones

\[\frac{\partial S}{\partial x_1} = 0, \quad \frac{\partial S}{\partial x_2} = 0 , \quad \frac{\partial S}{\partial x_3} = 0 \label{1.8.11}\]

expresan las condiciones de que la suma de los cuadrados de los residuales es menor con respecto a cada una de las variables, y estas tres Ecuaciones se denominan las Ecuaciones normales. Si el lector va a escribir el valor de\(S\) en su totalidad en términos de las variables\(x_1\),\(x_2\) y\(x_3\), él o ella encontrará, por diferenciación de\(S\) con respecto a\(x_1\),\(x_3\) y\(x_3\) a su vez, que las tres ecuaciones normales son

\[A_{11} x_1 + A_{12} x_2 + A_{13} x_3 + B_1 = 0 \label{1.8.12}\]

\[A_{12} x_1 + A_{22} x_2 + A_{23} x_3 + B_2 = 0 \label{1.8.13}\]

\[A_{13} x_1 + A_{23} x_2 + A_{33} x_3 + B_3 = 0 \label{1.8.14}\]

donde

\[A_{11} = \sum a_{i1}^2 , \quad A_{12} = \sum a_{i1} a_{i2} , \quad A_{13} = \sum a_{i1} a_{i3} , \quad B_1 = \sum a_{i1} b_i , \label{1.8.15}\]

\[A_{22} = \sum a_{i2}^2 , \quad A_{23} = \sum a_{i2} a_{i3}, \quad B_2 = \sum a_{i2} b_i , \label{1.8.16}\]

\[A_{33} = \sum a_{i3}^2 , \quad B_3 = \sum a_{i3}b_i , \label{1.8.17}\]

y donde cada suma es de\(i = 1\) a\(i = 5\).

Estas tres Ecuaciones normales, cuando se resuelven para las tres incógnitas\(x_1\)\(x_3\),\(x_2\) y, darán los tres valores que darán como resultado la suma más baja de los cuadrados de los residuales de las cinco Ecuaciones originales de condición.

Veamos un ejemplo numérico, en el que mostramos las comprobaciones de ejecución que se realizan para detectar errores a medida que se cometen. Supongamos que las Ecuaciones de condición a resolver son

\[7x_1 - 6x_2 + 8x_3 - 15 = 0 \quad -6\nonumber\]

\[3x_1 + 5x_2 - 2x_3 - 27 = 0 \quad -21 \nonumber\]

\[2x_1 - 2x_2 + 7x_3 - 20 = 0 \quad -13 \nonumber\]

\[4x_1 + 2x_2 - 5x_3 - 2 = 0 \quad -1 \nonumber\]

\[9x_1 - 8x_2 + 7x_3 - 5 = 0 \quad 3 \nonumber\]

\[-108 \quad -69 \quad -71 \nonumber\]

La columna de números a la derecha de las Ecuaciones es la suma de los coeficientes (incluyendo el término constante). Llamemos a estos números\(s_1\),\(s_2\),\(s_3\),\(s_4\),\(s_5\).

Los tres números debajo de las Ecuaciones son\(\sum a_{i1}s_i , \quad \sum a_{i2}s_i , \quad \sum a_{i3} s_i\)

Configura las ecuaciones normales:

\[159x_1 - 95x_2 + 107x_3 - 279 = 0 \quad -108 \nonumber\]

\[-95x_1 + 133x_2 - 138x_3 + 31 = 0 \quad -69 \nonumber\]

\[107x_1 - 138x_2 + 191x_3 - 231 = 0 \quad -71 \nonumber\]

La columna de números a la derecha de las Ecuaciones normales es la suma de los coeficientes (incluyendo el término constante). Estos números son iguales a la fila de números por debajo de las Ecuaciones de condición, y sirven como comprobación de que hemos configurado correctamente las Ecuaciones normales. Las soluciones a las ecuaciones normales son

\[x_1 = 2.474 \quad x_2 = 5.397 \quad x_3 = 3.723 \nonumber\]

y estos son los números que satisfacen las Ecuaciones de condición tal que la suma de los cuadrados de los residuales es mínima.

Te voy a sugerir aquí que escribas un programa de computadora, en el idioma de tu elección, para encontrar las soluciones de mínimos cuadrados para\(N\) Ecuaciones en\(n\) incógnitas. Vas a necesitar un programa así una y otra vez en el futuro, ¡y no menos importante cuando vengas a la Sección 1.12 de este capítulo!.