Dos observaciones, un par de parámetros: sistemas de ecuaciones para IA

Una regla de predicción sencilla tiene dos parámetros desconocidos:

$$\widehat y=wx+b.$$

La primera observación indica que la entrada $x=1$ produjo el objetivo $y=5$. Eso no revela por separado el peso $w$ ni el sesgo $b$. Proporciona una restricción, $w+b=5$, cuyos pares de parámetros forman una recta completa. Una segunda observación, $(x,y)=(3,9)$, proporciona otra recta, $3w+b=9$.

Solo un punto pertenece a ambas rectas: $(w,b)=(2,3)$. En ese punto, el mismo modelo se ajusta a las dos filas. Este punto compartido es la idea central de un sistema de ecuaciones lineales: cada ecuación impone una restricción y una solución debe satisfacer todas las restricciones a la vez.

Al terminar esta lección podrás interpretar un sistema como restricciones simultáneas, resolver un sistema de dos ecuaciones mediante sustitución o resta, clasificar dos rectas como secantes, paralelas o coincidentes, y recuperar dos parámetros exactos del modelo a partir de dos observaciones.

Resultado de aprendizaje: Interpreta un sistema como restricciones simultáneas y clasifica sus intersecciones.

Esta lección continúa la Lección 11: Ecuaciones lineales para IA, en la que una ecuación se convirtió en una recta geométrica y la sustitución comprobó si un punto pertenecía a ella. El sitio web oficial Mathematics for Machine Learning sitúa los sistemas de ecuaciones lineales al comienzo del álgebra lineal. Su Sección 2.1 relaciona las soluciones simultáneas con las intersecciones geométricas. El escenario de recuperación de parámetros, las derivaciones, el código, la visualización y las evaluaciones siguientes son originales.

Una solución debe superar dos pruebas de verdad

Considera dos ecuaciones lineales con las mismas incógnitas reales $w$ y $b$:

$$\begin{aligned} a_1w+b&=c_1,\\ a_2w+b&=c_2. \end{aligned}$$

Los números reales fijos $a_1$ y $a_2$ multiplican al peso. Los números reales fijos $c_1$ y $c_2$ son las salidas requeridas. El par ordenado $(w,b)$ es la configuración de parámetros desconocida.

La palabra «simultáneamente» evita un error común. El par $(0,5)$ resuelve $w+b=5$, pero falla la segunda ecuación porque $3(0)+5=5\ne9$. El par $(3,0)$ resuelve $3w+b=9$, pero falla la primera porque $3+0\ne5$. Cada par se ajusta a una fila; ninguno se ajusta al sistema.

Candidato $(w,b)$	Prueba $w+b=5$	Prueba $3w+b=9$	¿Resuelve el sistema?
$(0,5)$	$0+5=5$	$0+5=5$	No
$(3,0)$	$3+0=3$	$9+0=9$	No
$(2,3)$	$2+3=5$	$6+3=9$	Sí

Un sistema no está resuelto hasta que la misma asignación supera todas las pruebas de verdad originales.

La resta aísla lo que cambió entre las observaciones

El sistema inicial es

\begin{aligned} w+b&=5, \tag{1}\\ 3w+b&=9. \tag{2} \end{aligned}

Las dos ecuaciones contienen el mismo $+b$. Restar todo el lado izquierdo de la ecuación (1) al de la ecuación (2), y hacer lo mismo a la derecha, elimina $b$:

$$\begin{aligned} (3w+b)-(w+b)&=9-5,\\ 3w+b-w-b&=4,\\ 2w&=4,\\ w&=2. \end{aligned}$$

Ahora sustituye $w=2$ en cualquiera de las ecuaciones originales. Con la ecuación (1),

$$2+b=5 \iff b=3.$$

La resta tiene una interpretación en IA. Entre las dos observaciones, la entrada aumenta en $3-1=2$ y la salida en $9-5=4$. El sesgo aporta la misma cantidad a ambas predicciones, así que desaparece de la diferencia. El peso es el cambio de salida por unidad de cambio de entrada:

$$w=\frac{9-5}{3-1}=\frac42=2.$$

Una vez conocido el peso parecido a una pendiente, cualquiera de las filas revela el sesgo. Este es un ajuste exacto de dos puntos, no una descripción del entrenamiento habitual con grandes conjuntos de datos. Las observaciones reales pueden incluir ruido, y una tercera fila puede no coincidir con la recta determinada por las dos primeras. Las lecciones posteriores desarrollarán herramientas para esos casos.

La respuesta algebraica es el cruce geométrico

Cada observación puede reorganizarse como una recta en el plano de parámetros $(w,b)$:

$$\begin{aligned} w+b=5 &\iff b=5-w,\\ 3w+b=9 &\iff b=9-3w. \end{aligned}$$

Este gráfico no es la representación habitual de la entrada observada $x$ frente al objetivo $y$. Su coordenada horizontal es un peso candidato y la vertical, un sesgo candidato. Cada punto de la primera recta se ajusta a la observación 1; cada punto de la segunda se ajusta a la observación 2. Su cruce en $(2,3)$ se ajusta a ambas.

Cambia la segunda observación abajo. La recta continua sigue siendo $w+b=5$; la discontinua se convierte en $x_2w+b=y_2$. Los controles deslizantes nativos permiten ajustar la segunda entrada $x_2$ y el objetivo $y_2$, mientras que los tres botones saltan a estados de intersección representativos.

Cambia la segunda observación

Segunda entrada x₂

Establece el coeficiente del peso en x₂w + b = y₂. La primera entrada permanece fija en 1.

3

Segundo objetivo y₂

Establece el lado derecho de la segunda restricción. El primer objetivo permanece fijo en 5.

9

Explora una configuración representativa

Una intersecciónRectas paralelasLa misma recta

Una solución: las rectas se encuentran en peso w = 2 y sesgo b = 3.

Una solución: las rectas se encuentran en peso w = 2 y sesgo b = 3.

Observación 1: w + b = 5 (continua)Observación 2: x₂w + b = y₂ (discontinua)⊗Solución compartida (signo más en un círculo)

Restricciones actuales y alternativa textual del gráfico

Cantidad	Valor actual	Interpretación
Restricción de la observación 1	w + b = 5	Cada punto de la recta continua se ajusta a la primera observación.
Restricción de la observación 2	3w + b = 9	Cada punto de la recta discontinua se ajusta a la segunda observación.
Clase de intersección	Un punto compartido	Una solución: las rectas se encuentran en peso w = 2 y sesgo b = 3.
Peso w recuperado	2	Esta coordenada pertenece a la solución compartida.
Sesgo b recuperado	3	Esta coordenada pertenece a la solución compartida.

El primer estado del componente renderizado por el servidor es el sistema trabajado: $x_2=3$, $y_2=9$ y $(w,b)=(2,3)$. Su frase de estado y su tabla contienen la conclusión con independencia del SVG y siguen siendo útiles sin JavaScript. Las etiquetas de las rectas también usan patrones continuo y discontinuo, mientras que la intersección tiene su propia forma de signo más rodeado; el color no es la única señal del estado.

Tres imágenes agotan las posibilidades de dos rectas

Para la familia

$$\begin{aligned} a_1w+b&=c_1,\\ a_2w+b&=c_2, \end{aligned}$$

restar la primera ecuación de la segunda produce

$$(a_2-a_1)w=c_2-c_1.$$

Estas dos diferencias clasifican la geometría sin necesidad de matrices.

Comparación de coeficientes	Comparación de objetivos	Geometría	Conjunto solución del sistema
$a_2\ne a_1$	Cualquier valor	Secantes	Un punto
$a_2=a_1$	$c_2\ne c_1$	Paralelas	Vacío: $\varnothing$
$a_2=a_1$	$c_2=c_1$	Coincidentes	Toda la recta compartida

Cuando $a_2\ne a_1$, se puede dividir y se obtiene un peso:

$$w=\frac{c_2-c_1}{a_2-a_1}, \qquad b=c_1-a_1w.$$

Cuando $a_2=a_1$, la diferencia del lado izquierdo es cero. Si los objetivos difieren, la ecuación restada se convierte en $0=c_2-c_1$ con un lado derecho distinto de cero: una contradicción. Si los objetivos también coinciden, la resta produce la identidad $0=0$: la segunda ecuación repite la primera y no aporta ninguna restricción nueva.

La próxima lección convertirá esta introducción en un estudio sistemático de ninguna, una o muchas soluciones. Por ahora basta la prueba geométrica: las rectas que se cruzan comparten un punto, las rectas paralelas distintas no comparten ninguno y las rectas coincidentes comparten todos sus puntos.

NumPy verifica el ajuste y Matplotlib traza las restricciones

El cálculo puede implementarse sin ocultarlo dentro de un solucionador general. La función siguiente acepta exactamente dos observaciones, maneja el caso límite de entradas repetidas y comprueba los parámetros recuperados frente a las dos filas originales.

import numpy as np
import matplotlib.pyplot as plt


def recover_two_parameter_model(x, y, atol=1e-12):
    delta_x = x[1] - x[0]
    delta_y = y[1] - y[0]

    if np.isclose(delta_x, 0.0, rtol=0.0, atol=atol):
        if np.isclose(delta_y, 0.0, rtol=0.0, atol=atol):
            return "many", None
        return "none", None

    weight = delta_y / delta_x
    bias = y[0] - weight * x[0]
    residual = weight * x + bias - y
    return "one", (weight, bias, residual)


x = np.array([1.0, 3.0])
y = np.array([5.0, 9.0])
classification, result = recover_two_parameter_model(x, y)
weight, bias, residual = result

print("classification:", classification)
print("weight:", weight)
print("bias:", bias)
print("predictions:", weight * x + bias)
print("residual:", residual)
print(
    "both constraints satisfied:",
    np.isclose(residual, 0.0, rtol=0.0, atol=1e-12),
)

candidate_weight = np.linspace(-1.0, 5.0, num=121)
bias_from_first = y[0] - x[0] * candidate_weight
bias_from_second = y[1] - x[1] * candidate_weight

plt.plot(candidate_weight, bias_from_first, label="w + b = 5")
plt.plot(
    candidate_weight,
    bias_from_second,
    "--",
    label="3w + b = 9",
)
plt.plot([weight], [bias], "o", label="shared solution")
plt.xlabel("weight w")
plt.ylabel("bias b")
plt.legend()
plt.show()

La salida ejecutada para el caso secante es:

classification: one
weight: 2.0
bias: 3.0
predictions: [5. 9.]
residual: [0. 0.]
both constraints satisfied: [ True  True]

numpy.isclose compara números usando tolerancias relativas y absolutas explícitas. Aquí el valor de referencia es cero, por lo que rtol=0.0 y atol=1e-12 dejan claro el umbral absoluto previsto. Esta prueba comprueba esta ejecución de coma flotante; no sustituye la derivación algebraica exacta.

numpy.linspace devuelve muestras espaciadas uniformemente en el intervalo elegido. Los 121 pesos muestreados dan a Matplotlib suficientes nodos para un trazado limpio, pero las muestras no son el conjunto solución matemático. Cada recta contiene infinitos puntos reales. La documentación de plot de Matplotlib especifica que los valores x e y proporcionados son las coordenadas de los nodos; llamarlo dos veces traza las dos rectas.

El ajuste exacto puede fallar cuando el conjunto de datos exige más

El modelo recuperado $\widehat y=2x+3$ se ajusta a $(1,5)$ y $(3,9)$. Supón que una tercera observación es $(2,8)$. El modelo predice

$$\widehat y=2(2)+3=7,$$

por lo que su residuo es $7-8=-1$. En el plano de parámetros, la nueva fila aporta una tercera recta, $2w+b=8$, que no pasa por $(2,3)$. No existe un único par de parámetros que se ajuste exactamente a las tres filas.

Esto no hace incorrecto el primer cálculo: cambia el problema. Dos filas seleccionaron la recta exacta que pasa por esas dos observaciones; la tercera mostró que el conjunto completo de datos no está en ella. En aprendizaje automático se suele sustituir «satisfacer exactamente todas las ecuaciones» por «encontrar parámetros cuyas predicciones sean colectivamente cercanas», pero ese problema de aproximación pertenece a lecciones posteriores.

Otra idea equivocada va en la dirección opuesta. Si dos observaciones son idénticas, como $(1,5)$ y $(1,5)$, el sistema no ha aprendido los dos parámetros; ha escrito $w+b=5$ dos veces. Cada punto de esa recta sigue ajustándose, por lo que el peso y el sesgo permanecen indeterminados.

La afirmación del conjunto de datos vive en la intersección

Una observación puede certificar que un par de parámetros se ajusta a una fila. Un sistema eleva el estándar: el mismo par debe superar la prueba de cada fila. En el ejemplo de dos filas, restar las observaciones revela el peso, la sustitución recupera el sesgo y el cruce de las dos rectas de parámetros explica por qué la respuesta es compartida.

Este hábito geométrico continuará en la próxima lección. Cuando llegue una nueva restricción, examina qué añade: un cruce nuevo, una contradicción o simplemente la misma recta dibujada de nuevo.

Comprueba tu comprensión

Pregunta 1

Prueba (w, b) = (1, 4), (2, 3) y (3, 0) en el sistema w + b = 5 y 3w + b = 9. ¿Qué par, si existe, resuelve el sistema?

Mostrar la solución paso a paso

Sustituye cada par en las dos ecuaciones originales.

Para $(1,4)$,

$$1+4=5, \qquad 3(1)+4=7\ne9.$$

Solo se ajusta a la primera restricción. Para $(2,3)$,

$$2+3=5, \qquad 3(2)+3=9.$$

Se ajusta a ambas restricciones. Para $(3,0)$,

$$3+0=3\ne5, \qquad 3(3)+0=9.$$

Solo se ajusta a la segunda restricción. Por tanto, $(2,3)$ es el único par de la lista que resuelve el sistema. Superar una sola prueba de verdad no es suficiente.

Pregunta 2

Resuelve 2u + v = 8 y 5u + v = 17 mediante resta. Verifica el resultado en ambas ecuaciones e identifica el punto de intersección.

Mostrar la solución paso a paso

Resta la primera ecuación de la segunda. Los paréntesis mantienen la resta aplicada a cada término:

$$\begin{aligned} (5u+v)-(2u+v)&=17-8,\\ 3u&=9,\\ u&=3. \end{aligned}$$

Sustituye $u=3$ en la primera ecuación:

$$2(3)+v=8 \iff 6+v=8 \iff v=2.$$

Ahora verifica las dos ecuaciones originales:

$$2(3)+2=8, \qquad 5(3)+2=17.$$

La solución y el punto de intersección geométrica son $(u,v)=(3,2)$.

Pregunta 3

Un modelo afín ŷ = wx + b observa (x, y) = (−1, 1) y (2, 10). Recupera w y b y escribe la regla de predicción ajustada.

Mostrar la solución paso a paso

Traduce las observaciones a restricciones de parámetros:

$$\begin{aligned} -w+b&=1,\\ 2w+b&=10. \end{aligned}$$

Resta la primera ecuación de la segunda:

$$(2w+b)-(-w+b)=10-1 \iff 3w=9 \iff w=3.$$

Sustituye $w=3$ en $-w+b=1$:

$$-3+b=1 \iff b=4.$$

La regla ajustada es $\widehat y=3x+4$. Devuelve $3(-1)+4=1$ y $3(2)+4=10$, así que ambos residuos son cero.

Pregunta 4

Clasifica la intersección de 2x + y = 4 y 2x + y = 7. Muestra cómo la resta demuestra la clasificación.

Mostrar la solución paso a paso

Resta la primera ecuación de la segunda:

$$(2x+y)-(2x+y)=7-4 \iff 0=3.$$

La afirmación $0=3$ es falsa para todo $(x,y)$. Ambas rectas tienen el mismo lado izquierdo, por lo que comparten pendiente, pero sus lados derechos diferentes las sitúan en intersecciones distintas. Son rectas paralelas distintas. Su intersección, y por tanto el conjunto solución del sistema, es $\varnothing$.

Pregunta 5

Clasifica el sistema 2x + 2y = 10 y x + y = 5. Explica por qué escribir dos ecuaciones no crea una solución única.

Mostrar la solución paso a paso

Divide la primera ecuación por el número no nulo $2$:

$$2x+2y=10 \iff x+y=5.$$

El resultado es exactamente la segunda ecuación. Por tanto, ambas ecuaciones trazan la misma recta. Todo punto $(t,5-t)$ con $t\in\mathbb R$ satisface ambas:

$$t+(5-t)=5$$

y duplicar esa igualdad produce $2t+2(5-t)=10$. El sistema tiene infinitas soluciones en una recta coincidente; la segunda ecuación repite la primera en lugar de acotar más la primera restricción.

Pregunta 6

Un estudiante resta w + b = 5 de 3w + b = 9 y escribe 2w + 2b = 4. Encuentra el primer error, termina correctamente la solución y verifícala.

Mostrar la solución paso a paso

La resta debe aplicarse a todo el primer lado izquierdo:

$$(3w+b)-(w+b)=3w+b-w-b.$$

El $+2b$ del estudiante es un error de distribución de signos. Como $b-b=0$, el paso correcto es

$$2w=4 \iff w=2.$$

Sustituir en $w+b=5$ da $2+b=5$, así que $b=3$. La verificación en las dos ecuaciones originales da

$$2+3=5, \qquad 3(2)+3=9.$$

Por tanto, $(w,b)=(2,3)$ es la solución.

Pregunta 7

El modelo ŷ = 2x + 3 se ajusta a las observaciones (1, 5) y (3, 9). Una tercera observación es (2, 8). ¿El mismo par de parámetros satisface las tres restricciones? Calcula e interpreta el residuo.

Mostrar la solución paso a paso

Evalúa el modelo en la tercera entrada:

$$\widehat y=2(2)+3=7.$$

Usando el residuo $r=\widehat y-y$, el tercer residuo es

$$r=7-8=-1.$$

El par $(w,b)=(2,3)$ todavía satisface las dos primeras restricciones, pero falla la tercera porque $2w+b=2(2)+3=7\ne8$. Por tanto, no: este par de parámetros no resuelve el sistema de tres ecuaciones. El residuo negativo significa que su predicción está una unidad por debajo del tercer objetivo.

Fuentes

1. Mathematics for Machine Learning companion website
2. Mathematics for Machine Learning book PDF
3. NumPy documentation: numpy.linspace
4. NumPy documentation: numpy.isclose
5. Matplotlib documentation: matplotlib.pyplot.plot