Notación de conjuntos para datasets de IA: pertenencia, particiones y filtraciones

Supón que un clasificador de imágenes obtiene un 96 % en sus datos de validación. Después alguien observa que img-04 se utilizó para el entrenamiento y la validación. La puntuación puede parecer precisa, pero uno de sus ejemplos ya no era desconocido.

Los conjuntos nos dan una forma compacta de expresar y comprobar ese fallo. Un conjunto registra qué objetos pertenecen a una colección. A partir de ahí, la intersección expone el solapamiento, la unión comprueba la cobertura y una partición describe una asignación limpia de cada ejemplo a exactamente una división del dataset.

Al terminar esta lección, podrás leer notación de pertenencia y de construcción de conjuntos, calcular operaciones habituales y poner en práctica una primera auditoría de los identificadores de entrenamiento, validación y prueba. Esto desarrolla el lado de los datos de la visión de variables, modelos y aprendizaje introducida en la lección 1.

La pertenencia convierte una colección en una afirmación de sí o no

Un conjunto es una colección cuya pertenencia no es ambigua. Si $D$ es el conjunto de todos los identificadores de ejemplos de un dataset pequeño, podemos escribir

$D=\{\text{img-01},\text{img-02},\text{img-03},\text{img-04}\}.$

Las llaves significan «el conjunto que contiene estos elementos». La afirmación

$\text{img-02}\in D$

se lee «img-02 es un elemento de $D$». El símbolo $\notin$ niega esa afirmación, por lo que $\text{img-09}\notin D$.

El número de elementos distintos de un conjunto finito es su cardinalidad, escrita $|D|$. En el ejemplo anterior, $|D|=4$.

La notación de construcción de conjuntos describe una regla, no una lista larga

Enumerar todos los elementos deja de ser práctico en un dataset real. La notación de construcción de conjuntos define la pertenencia mediante una condición:

$D_{\text{cat}}=\{x\in D : \operatorname{label}(x)=\text{cat}\}.$

Se lee de izquierda a derecha: «$D_{\text{cat}}$ es el conjunto de ejemplos $x$ de $D$ cuyo nombre es cat». Los dos puntos significan «tal que». También se usa habitualmente una barra vertical, $|$, en la misma posición.

La condición posterior a los dos puntos actúa como un filtro. Para

$D=\{\text{img-01},\text{img-02},\text{img-03},\text{img-04}\},$

si img-01 e img-04 tienen la etiqueta cat, entonces

$D_{\text{cat}}=\{\text{img-01},\text{img-04}\}.$

Esta notación separa el universo considerado—aquí, $D$—de la regla de pertenencia. Sin $x\in D$, «todas las imágenes de gatos» podría significar todas las imágenes de gatos existentes, no los ejemplos disponibles para este proyecto.

Tres operaciones auditan una división de datos

Sean $T$, $V$ y $E$ los conjuntos de identificadores de entrenamiento, validación y prueba. Tres operaciones responden a preguntas de ingeniería distintas.

El conjunto vacío, escrito $\varnothing$, no contiene elementos. Por tanto, $T\cap V=\varnothing$ afirma que entrenamiento y validación no comparten identificadores. Estos conjuntos se llaman disjuntos.

Una división limpia es una partición

Supón que el dataset completo es $D$. Los conjuntos de entrenamiento, validación y prueba forman una partición de $D$ cuando cumplen dos requisitos.

Primero, su unión cubre todo el dataset:

$T\cup V\cup E=D.$

Segundo, cada par es disjunto:

La cobertura evita que un ejemplo desaparezca. La disjunción por pares evita que ocupe dos divisiones. Juntas indican que cada elemento de $D$ pertenece exactamente a una parte.

El estado inicial cubre los siete identificadores, pero falla la prueba de partición porque img-04 pertenece tanto a $T$ como a $V$. Desmarca una de esas dos pertenencias para producir una partición válida. Después deja un identificador sin marcar en ninguna parte: el solapamiento desaparece, pero falla la condición de cobertura.

Los conjuntos de Python reflejan la auditoría

La documentación oficial de Python define su tipo set como una colección no ordenada de objetos distintos y hashables. Admite las mismas operaciones de unión, intersección, diferencia, pertenencia y disjunción utilizadas arriba.

all_ids = {f"img-{i:02d}" for i in range(1, 8)}
train_ids = {"img-01", "img-02", "img-03", "img-04"}
validation_ids = {"img-04", "img-05"}
test_ids = {"img-06", "img-07"}

overlap = (
    (train_ids & validation_ids)
    | (train_ids & test_ids)
    | (validation_ids & test_ids)
)
covered = train_ids | validation_ids | test_ids
missing = all_ids - covered

is_partition = not overlap and not missing and covered == all_ids

print(sorted(overlap))
print(sorted(missing))
print(is_partition)

La salida verificada es:

['img-04']
[]
False

El operador & calcula la intersección, | la unión y - la diferencia. not overlap solo es verdadero cuando el conjunto de solapamientos está vacío.

Para una comprobación reutilizable, haz explícitas las condiciones:

def is_partition(universe, *parts):
    covered = set().union(*parts)
    total_memberships = sum(len(part) for part in parts)
    no_overlap = total_memberships == len(covered)
    return no_overlap and covered == universe

Si un identificador aparece en dos partes, la suma de sus tamaños separados supera el tamaño de la unión. Si falta un identificador, la unión difiere del universo.

Los identificadores disjuntos son necesarios, pero no suficientes contra las filtraciones

El solapamiento inicial es una forma de filtración de datos: información fuera del límite de entrenamiento influye en la construcción o evaluación del modelo. La guía de filtraciones de Scikit-learn explica que esa filtración puede hacer que la evaluación parezca demasiado optimista y recomienda separar los datos antes de ajustar los pasos de preprocesamiento.

Una intersección vacía de identificadores solo detecta la reutilización exacta de un identificador. No demuestra que el conjunto de evaluación sea realmente independiente. Dos identificadores distintos pueden apuntar a copias redimensionadas de la misma fotografía. Los fotogramas de un vídeo pueden dividirse entre entrenamiento y validación. Los registros del mismo paciente, cliente o periodo futuro pueden compartir información aunque sus identificadores de fila sean distintos.

Hay otro límite entre las matemáticas y la implementación: los conjuntos de Python no conservan las posiciones de una secuencia y descartan los valores duplicados. Conserva la lista ordenada de muestras para el entrenamiento. Deriva un conjunto de identificadores estables para las comprobaciones de pertenencia.

La lección 5 añadirá índices y subíndices, lo que permitirá distinguir la identidad de un ejemplo de su posición dentro de un lote o tensor. Esa distinción es mucho más fácil de expresar cuando el dataset tiene un límite de pertenencia claro.

Comprueba lo que has entendido

no_overlap = not (
    (train & validation)
    or (train & test)
    or (validation & test)
)
covered = (train | validation | test) == all_ids
return no_overlap and covered