Notación sigma para IA: cómo las pérdidas se convierten en un único objetivo de entrenamiento

Un modelo hace cuatro predicciones y produce cuatro pérdidas cuadráticas: $1$, $4$, $1$ y $9$. Un paso de entrenamiento necesita un objetivo, no cuatro números sueltos. Sumar las pérdidas da $15$; promediarlas da $3.75$. Ambas son reducciones válidas, pero responden a preguntas distintas y producen escalas diferentes en el código.

La notación sigma convierte esa suma repetida en una expresión compacta. Al terminar esta lección podrás expandir una suma o un producto a partir de sus límites, traducirlo a un bucle, calcular el error cuadrático medio (MSE) en NumPy y detectar reducciones que usan límites, denominador o eje incorrectos.

Esta lección se apoya en los valores indexados de la lección 5: una vez que $\ell_i$ significa «la pérdida del ejemplo $i$», la siguiente tarea es combinar todas las pérdidas indexadas. El sitio complementario oficial de Mathematics for Machine Learning es la página de referencia del libro del curso; su capítulo introductorio motiva el camino desde los datos numéricos hasta los modelos y los objetivos de aprendizaje.

Los límites indican dónde empieza y termina una suma

La letra griega sigma mayúscula, $\sum$, significa «sumar una secuencia de términos». Por ejemplo,

hay cuatro partes que leer:

• $i$ es el índice que cambia;
• $2$ es el límite inferior, donde empieza $i$;
• $5$ es el límite superior, donde termina $i$; y
• $a_i$ es el término que se evalúa en cada índice.

Ambos límites están incluidos, así que la expansión es

La expansión también es un algoritmo. Un total acumulado empieza en cero y absorbe un término cada vez:

a = [10, 20, 30, 40, 50]
n = 5
total = 0

for i in range(1, n + 1):
    total += a[i - 1]

print(total)

150

El índice matemático va de $1$ a $n$, mientras que la lista de Python usa posiciones de $0$ a $n-1$. El valor de parada de Python se excluye, por lo que range(1, n + 1) es necesario para incluir $n$. Escribir range(1, n) omite silenciosamente el último término. La expresión a[i - 1] traduce el índice matemático que empieza en uno a la posición de lista que empieza en cero, presentada en la lección 5.

La notación de producto cambia el valor inicial y la operación

La letra griega pi mayúscula, $\prod$, significa «multiplicar una secuencia de términos». Usa el mismo tipo de índice y límites inclusivos:

Para $a_2=2$, $a_3=3$, $a_4=1$ y $a_5=4$,

El bucle correspondiente empieza en $1$, porque multiplicar por $1$ no cambia un número:

values = [2, 3, 1, 4]
product = 1

for value in values:
    product *= value

print(product)

24

Empezar product en 0 haría que todos los resultados posteriores fueran cero. Esta diferencia también explica los casos vacíos estándar. Una suma sin términos es $0$ y un producto sin términos es $1$: cada uno usa el valor inicial neutro que deja sin cambios las adiciones o multiplicaciones posteriores. NumPy documenta las mismas convenciones para np.sum y np.prod.

Los productos serán especialmente importantes cuando el curso llegue a las probabilidades conjuntas. Por ahora, el hábito de implementación clave es hacer coincidir el acumulador y su valor inicial con la notación.

Cuatro errores de predicción se convierten en un único error cuadrático medio

Supón que un modelo de regresión predice un número para cada uno de cuatro ejemplos:

Aquí $\hat y_i$ es la predicción del ejemplo $i$, y $y_i$ es su objetivo. Define la pérdida cuadrática por ejemplo como

El acumulador interactivo muestra el estado intermedio que comprime la notación sigma. Su tabla sigue siendo una alternativa textual completa: la fila $i$ enumera $\hat y_i$, $y_i$, la pérdida cuadrática y si esa pérdida ya entró en el total acumulado.

Después de que las cuatro filas entren en el acumulador, la suma acumulada es $15$. Al dividirla por las cuatro filas incluidas se obtiene el MSE, $3.75$. La animación no cambia las matemáticas; hace visible la actualización repetida total = total + loss.

NumPy refleja la fórmula

NumPy puede mantener visibles las pérdidas por ejemplo antes de reducirlas:

import numpy as np

y_true = np.array([1.0, 2.0, 5.0, 2.0])
y_pred = np.array([2.0, 0.0, 4.0, 5.0])

squared_losses = (y_pred - y_true) ** 2
total_squared_error = np.sum(squared_losses)
mse = np.mean(squared_losses)

print("per-example squared losses:", squared_losses)
print("sum:", total_squared_error)
print("mean squared error:", mse)

per-example squared losses: [1. 4. 1. 9.]
sum: 15.0
mean squared error: 3.75

La documentación de np.sum define una reducción sobre los elementos de un array. La documentación de np.mean define la media aritmética y dice que, de forma predeterminada, usa el array aplanado. En este ejemplo unidimensional, aplanarlo no cambia nada: se reducen las cuatro entradas.

Conservar squared_losses como un array con nombre es útil para depurar. Revela si un ejemplo domina el objetivo y permite que una prueba compare la implementación con los cuatro cálculos manuales anteriores.

Un eje decide qué índices desaparecen

Con un array de pérdidas multidimensional, «tomar la media» está incompleto hasta que se aclara el eje. Considera dos ejemplos, cada uno con tres pérdidas de salida:

Las filas son ejemplos y las columnas son salidas. El argumento axis de NumPy nombra el eje que se va a reducir:

losses = np.array([
    [1.0, 4.0, 1.0],
    [9.0, 0.0, 4.0],
])

print("all six losses:", np.mean(losses))
print("one mean per example:", np.mean(losses, axis=1))
print("one mean per output:", np.mean(losses, axis=0))

all six losses: 3.1666666666666665
one mean per example: [2.         4.33333333]
one mean per output: [5.  2.  2.5]

Usar axis=0 cuando el modelo necesita una pérdida por ejemplo es un error semántico. El código se ejecuta y los números parecen plausibles, pero el índice superviviente significa «salida», no «ejemplo». La documentación directa de NumPy para sum y mean especifica que axis=None reduce el array completo, mientras que un entero selecciona el eje a lo largo del que se hace la reducción.

La suma y la media tienen escalas distintas

Para una colección fija no vacía de $n$ pérdidas,

La media es una suma reescalada, pero la escala importa cuando cambian los tamaños de lote. Cuatro ejemplos con una pérdida de $2$ cada uno tienen suma $8$ y media $2$; ocho ejemplos así tienen suma $16$ y la misma media, $2$. Una suma mide la pérdida total de la colección. Una media mide la pérdida por elemento incluido.

Durante el entrenamiento del modelo, la regla de predicción produce una o más pérdidas por cada ejemplo. Una reducción convierte esos valores en el objetivo escalar que se usa para evaluar los parámetros actuales. Por tanto, elegir entre suma, media o una variante enmascarada y ponderada pertenece al contrato matemático del modelo, no solo al formato del código.

La lección 7 usará potencias y raíces para razonar sobre la escala del modelo. Hasta que esa lección esté disponible, la página del curso Math for AI es el lugar fiable para continuar en el orden de publicación. La notación aprendida aquí reaparecerá a lo largo del curso: las sumas construyen combinaciones ponderadas y objetivos, mientras que los productos construyen factores repetidos.

Comprueba lo que has entendido

total = 0
for i in range(1, n + 1):
    total += a[i - 1]

per_example_loss = np.mean(losses, axis=1)