Curso de Matemáticas para IA · Lección 13 de 180
Ninguna solución, una solución o muchas soluciones
Aprende a clasificar sistemas lineales de dos variables, relaciona cada cantidad de soluciones con la identificabilidad de los parámetros y trata datos contradictorios o repetidos.
Tres conjuntos de datos de dos filas pueden hacer que el mismo modelo se comporte de tres maneras radicalmente distintas. Sea la regla de predicción afín
donde los números reales y son el peso y el sesgo desconocidos.
| Conjunto de datos | Primera observación | Segunda observación | Resultado del ajuste exacto |
|---|---|---|---|
| A | Un par: | ||
| B | Ningún par: la misma entrada exige dos salidas distintas | ||
| C | Infinitos pares: la segunda fila repite la primera |
El conjunto de datos A identifica ambos parámetros. El conjunto B contradice el modelo exacto. El conjunto C añade una fila, pero no una restricción nueva. El número de filas por sí solo no puede decirnos cuánta información contienen los datos.
Al terminar esta lección podrás reconocer sistemas lineales de dos variables inconsistentes, con solución única y subdeterminados a partir de ecuaciones y geometría; justificar cada clasificación sin determinantes ni rango matricial; y explicar qué significa el resultado para la identificabilidad de los parámetros.
Resultado de aprendizaje: Reconocer sistemas inconsistentes, con solución única y subdeterminados.
Esta lección se basa en la Lección 12: Sistemas de ecuaciones como intersecciones, donde una solución debía satisfacer todas las restricciones y aparecía como un punto común. El sitio web oficial de Mathematics for Machine Learning desarrolla la clasificación de ninguna, una o infinitas soluciones en las secciones 2.1 y 2.3. Los conjuntos de datos, las derivaciones, el código, el explorador y las evaluaciones de aquí son originales.
La cantidad de soluciones diagnostica la información disponible
Considera dos ecuaciones con las incógnitas reales y . Cada ecuación no degenerada —aquella cuyos dos coeficientes del lado izquierdo no son ambos cero— dibuja una recta en el plano . El conjunto solución del sistema es la intersección de esas rectas.
Las tres posibilidades no son un catálogo para memorizar. Se derivan de la geometría de las rectas. Dos rectas no paralelas se encuentran una vez. Dos rectas paralelas distintas no se encuentran nunca. Si dos rectas comparten dos puntos diferentes, ambas pasan por la única recta determinada por esos puntos; por tanto coinciden y comparten todos sus puntos. Así, dos ecuaciones lineales en dos variables no pueden tener exactamente dos, tres ni ningún otro número finito mayor que uno de soluciones reales.
En el lenguaje del aprendizaje automático, los parámetros son identificables a partir de las observaciones dadas cuando solo una configuración de parámetros las ajusta bajo el modelo indicado. La identificabilidad depende de la información que aportan las restricciones, no simplemente del número de filas recogidas.
La eliminación revela un valor, una contradicción o una identidad
La prueba de clasificación más directa en esta etapa del curso consiste en combinar las ecuaciones conservando sus soluciones comunes. Observa qué dice la última línea del cálculo.
Una solución deja un valor para sustituir
Resuelve
\begin{aligned} 2u+v&=7, \tag{1}\\ u-v&=2. \tag{2} \end{aligned}Al sumar las ecuaciones (1) y (2) se elimina :
Sustituye en la ecuación (2):
Ninguna solución termina en una contradicción
Ahora considera
\begin{aligned} u+2v&=4, \tag{3}\\ 2u+4v&=11. \tag{4} \end{aligned}Duplicar la ecuación (3) da . La ecuación (4) exige que ese mismo lado izquierdo sea igual a 11. Al restar dos veces la ecuación (3) de la ecuación (4), el conflicto queda explícito:
Ningún valor de y puede hacer verdadera la igualdad . El sistema es inconsistente, sus rectas son paralelas y distintas, y su conjunto solución es . El cálculo no fracasó al encontrar una respuesta oculta: demostró que no existe ninguna respuesta exacta.
Infinitas soluciones terminan en una identidad
Por último, toma
\begin{aligned} 3u-v&=5, \tag{5}\\ -6u+2v&=-10. \tag{6} \end{aligned}La ecuación (6) es veces la ecuación (5). Sumar dos veces la ecuación (5) a la ecuación (6) da
La identidad es verdadera para cualquier y ; no aporta una restricción nueva. Esto no significa que cualquier par resuelva el sistema original. Todavía queda una ecuación independiente. Elige cualquier número real para ; entonces la ecuación (5) obliga a que :
Para todo real,
y multiplicar esta igualdad por verifica la ecuación (6). La elección libre de genera infinitas soluciones a lo largo de la recta compartida.
Compara las tres geometrías en un solo plano de parámetros
El explorador conserva como una restricción de observación y cambia lo que exigen los datos restantes. Elige una configuración con el selector nativo. Las rectas pasan de un estado a otro salvo que el dispositivo solicite menos movimiento. Los patrones continuo, discontinuo y de puntos transmiten las mismas distinciones que el color, y la tabla con título expresa cada conclusión sin depender del SVG ni de JavaScript.
Usa las teclas de flecha para recorrer las opciones. El gráfico, el estado y la tabla se actualizarán con el problema de ajuste exacto seleccionado.
Las rectas se cruzan una vez en (w, b) = (2, 2), así que ambos parámetros son identificables.
| Restricción | Ecuación | Qué aporta |
|---|---|---|
| Restricción 1 (continua) | w + b = 4 | Define el primer conjunto de pares de parámetros que ajustan la primera observación. |
| Restricción 2 (discontinua) | 2w + b = 6 | Cruza la primera recta una vez y fija ambos parámetros. |
| Clasificación exacta | Única y consistente | |
| Conjunto solución | {(2, 2)} | |
| Significado para los parámetros del modelo | Las observaciones identifican el peso w = 2 y el sesgo b = 2. | |
El primer estado renderizado por el servidor es el sistema único y , incluidos su estado, gráfico y tabla semántica. Al seleccionar el caso ruidoso se añaden las tres restricciones creadas por las observaciones , y para el modelo . Las dos primeras seleccionan , pero la tercera exige , lo cual es falso.
Una prueba de coeficientes que no divide entre cero
Para dos ecuaciones no degeneradas
compara los pares de coeficientes y . Son proporcionales cuando uno es un múltiplo real del otro: existe un número tal que
Esta formulación es más segura que comparar por separado y , porque cualquiera de los denominadores puede ser cero.
| Relación entre coeficientes | Relación entre lados derechos | Geometría | Soluciones |
|---|---|---|---|
| Ningún multiplicador coincide con ambos coeficientes | No hace falta | Rectas no paralelas | Exactamente una |
| Rectas paralelas distintas | Ninguna | ||
| La misma recta dos veces | Infinitas |
El caso único significa que las dos ecuaciones restringen direcciones diferentes. Los casos paralelos tienen el mismo patrón en el lado izquierdo; escalar el primer lado izquierdo reproduce el segundo lado derecho o revela una contradicción.
Los coeficientes cero siguen siendo datos normales. El sistema
es simplemente y . Una recta horizontal y una vertical se encuentran en el punto único . El problema está en las pruebas de razones que intentan dividir por ; el coeficiente cero no es el problema.
Si todo el lado izquierdo es cero, la ecuación es degenerada y debe leerse directamente:
| Ecuación degenerada | Significado | Efecto en un sistema mayor |
|---|---|---|
| Identidad verdadera para todo par real | No añade ninguna restricción | |
| Contradicción verdadera para ningún par real | Hace inconsistente el sistema completo |
Por ejemplo, junto con sigue dejando la familia infinita . La identidad no convierte una recta en un punto único.
La identificabilidad pregunta qué añaden las observaciones
Volvamos a . Cada observación se convierte en una restricción sobre los parámetros
Para las observaciones y , las restricciones son
Al restar se obtiene , de modo que y . Los distintos valores de entrada hicieron que las observaciones restringieran los parámetros de manera diferente.
Repetir cien veces sigue escribiendo cien veces. El conjunto de datos tiene más filas, pero la familia de parámetros permitidos sigue siendo . Esas observaciones no identifican y por separado.
Si la entrada repetida lleva dos objetivos, como y , las restricciones se convierten en y . El modelo afín exacto no puede satisfacer ambas. Este es un diagnóstico de ajuste exacto, no una prueba de que los datos no sirvan. El ruido de medición, las etiquetas redondeadas o un modelo demasiado simple pueden hacer que las observaciones reales sean inconsistentes.
Las lecciones posteriores introducirán el rango como vocabulario para contar la información lineal independiente. Esta lección solo necesita la prueba visible: ¿las restricciones se cruzan, entran en conflicto o se repiten?
NumPy separa la resolución exacta del ajuste aproximado
El sistema único trabajado arriba puede escribirse como una ecuación de arrays. Cada fila de A contiene los coeficientes que multiplican
a , y cada entrada de c contiene el lado derecho requerido:
import numpy as np
A = np.array([
[2.0, 1.0],
[1.0, -1.0],
])
c = np.array([7.0, 2.0])
solution = np.linalg.solve(A, c)
verified = np.allclose(A @ solution, c, rtol=0.0, atol=1e-12)
print("solution:", solution)
print("A @ solution:", A @ solution)
print("passes both equations:", verified)
# Three slightly inconsistent observations of y_hat = w*x + b.
x_observed = np.array([0.0, 1.0, 2.0])
y_observed = np.array([2.0, 4.0, 6.1])
design = np.column_stack((x_observed, np.ones_like(x_observed)))
approximate, _, _, _ = np.linalg.lstsq(design, y_observed, rcond=None)
predictions = design @ approximate
residuals = predictions - y_observed
print("approximate [w, b]:", np.round(approximate, 6))
print("predictions:", np.round(predictions, 6))
print("residuals:", np.round(residuals, 6))
print(
"all three exact:",
np.allclose(residuals, 0.0, rtol=0.0, atol=1e-12),
)
La salida verificada es:
solution: [3. 1.]
A @ solution: [7. 2.]
passes both equations: True
approximate [w, b]: [2.05 1.983333]
predictions: [1.983333 4.033333 6.083333]
residuals: [-0.016667 0.033333 -0.016667]
all three exact: False
La documentación oficial de numpy.linalg.solve especifica
una resolución numérica exacta para un sistema cuadrado con solución única; genera LinAlgError para un array de coeficientes singular
o no cuadrado. Ese error por sí solo no puede distinguir «ninguna solución» de «infinitas soluciones», porque ambas configuraciones
paralelas no cumplen el requisito de solución única. La clasificación algebraica debe aportar el significado.
numpy.allclose comprueba arrays dentro de las tolerancias elegidas.
El código establece rtol=0.0 y una tolerancia absoluta explícita porque el residuo de referencia es cero; NumPy advierte que su tolerancia
absoluta predeterminada no es adecuada para todas las escalas de números pequeños. Esta comprobación numérica apoya la derivación exacta,
pero no redefine la igualdad matemática.
Las filas ruidosas no tienen un par de parámetros exacto común, por lo que el segundo cálculo plantea una pregunta diferente. La documentación
de numpy.linalg.lstsq describe el vector devuelto como el que
minimiza el tamaño euclídeo del residuo cuando no existe una solución exacta. Su produce residuos pequeños,
no residuos cero. Los mínimos cuadrados tendrán su propia lección más adelante; aquí marcan la frontera entre resolver cada restricción
y aproximar observaciones incompatibles.
La siguiente fila debería cambiar la intersección
Clasificar un sistema es, en última instancia, preguntar qué añade cada restricción. Un cruce fija un punto. Una contradicción vacía el conjunto solución. Una repetición escalada deja una elección libre. Para un modelo de IA, esos resultados se traducen en parámetros identificables, un ajuste exacto imposible o parámetros que los datos no pueden distinguir.
La siguiente lección dará a los vectores un papel formal como representaciones de datos de IA. Conserva cerca el diagnóstico de esta lección: antes de confiar en un parámetro recuperado, comprueba si las observaciones realmente lo seleccionaron de forma única.
Comprueba tu comprensión
Pregunta 1
Resuelve 2x + y = 8 y x − y = 1. Muestra por qué el sistema tiene exactamente una solución y verifica el punto en ambas ecuaciones.
Mostrar la solución paso a paso
Suma las ecuaciones para que se cancele :
Sustituye en :
Ahora prueba en las dos ecuaciones originales:
La eliminación fijó , la sustitución fijó y el punto supera las dos comprobaciones de verdad. Por tanto, el conjunto solución es exactamente .
Pregunta 2
Clasifica x + 3y = 5 y 2x + 6y = 13. Deriva la afirmación decisiva e interpreta su geometría.
Mostrar la solución paso a paso
El doble del primer lado izquierdo es . Resta dos veces la primera ecuación de la segunda:
La contradicción no puede cumplirse para ningún o real. El par de coeficientes es el doble de , pero el lado derecho 13 no es el doble de 5. Las rectas son paralelas y distintas, por lo que el sistema es inconsistente y su conjunto solución es .
Pregunta 3
Encuentra todas las soluciones de 4p − 2q = 6 y −2p + q = −3. Explica por qué 0 = 0 no es la respuesta final.
Mostrar la solución paso a paso
Multiplicar la segunda ecuación por da
que es la primera ecuación. Por tanto, eliminar una ecuación con la otra produce , lo que muestra que ambas repiten la misma restricción.
Queda una restricción. Divide entre :
Elige para cualquier . Entonces toda solución es
La identidad diagnostica la redundancia; la recta parametrizada, no la identidad por sí sola, es el conjunto solución infinito completo.
Pregunta 4
Sin dividir entre un coeficiente cero, clasifica 0x + y = 4 y 3x + 0y = 9.
Mostrar la solución paso a paso
Lee directamente los coeficientes cero. La primera ecuación es , una recta horizontal. La segunda es , así que dividir entre el número no nulo 3 da , una recta vertical.
Las rectas se encuentran una vez en . La verificación es
El sistema es consistente y único. No hace falta ninguna razón como .
Pregunta 5
¿Qué ocurre con el sistema x + y = 2 si la segunda ecuación es (a) 0x + 0y = 0 o (b) 0x + 0y = 7? Da cada conjunto solución.
Mostrar la solución paso a paso
En la parte (a), la segunda ecuación es , verdadera para todo par real. No añade ninguna restricción. La primera recta permanece, así que elige y obtén :
El sistema es consistente y subdeterminado, con infinitas soluciones.
En la parte (b), la segunda ecuación es , falsa para cualquier par real. Una solución tendría que satisfacer esa contradicción además de la primera recta, lo cual es imposible. Por tanto,
y el sistema es inconsistente.
Pregunta 6
El modelo ŷ = wx + b recibe la observación (2, 7) cincuenta veces. ¿Son identificables w y b? Parametriza cada ajuste exacto y explica qué aportan las filas repetidas.
Mostrar la solución paso a paso
Cada observación repetida produce la misma restricción:
Elige libremente el peso . Entonces el sesgo debe ser
Así, todos los ajustes exactos son
Cincuenta copias siguen dibujando una sola recta de parámetros, por lo que infinitos pares encajan. Las filas confirman la misma observación, pero no añaden una restricción distinta. Ninguno de los parámetros es identificable a partir de este conjunto de datos por sí solo.
Pregunta 7
Para las observaciones (0, 2), (1, 4) y (2, 6.1) bajo ŷ = wx + b, demuestra que no existe un ajuste exacto. Después explica qué hace y qué no afirma la salida de mínimos cuadrados de NumPy [2.05, 1.983333].
Mostrar la solución paso a paso
La primera observación obliga a . La segunda da entonces
El único par que satisface las dos primeras filas es . Pruébalo en la tercera:
Por tanto, ningún par de parámetros satisface exactamente las tres restricciones.
La salida de mínimos cuadrados usa y . Sus predicciones son aproximadamente , con residuos aproximadamente . Son valores pequeños pero no nulos. La salida minimiza una medida de residuos especificada; no convierte el sistema exacto inconsistente en consistente ni afirma que cada observación se haya ajustado exactamente.