Los productos internos miden la alineación en la atención
Calcula un producto escalar, interpreta geométricamente su signo y magnitud, y observa cómo las puntuaciones consulta-clave se convierten en pesos de atención.
Etiqueta
#attention
2artículoscon esta etiqueta.
Combinaciones lineales para IA: cómo los vectores ponderados construyen una nueva representación
Escala y combina vectores, inspecciona cada coordenada con NumPy y descubre por qué las salidas de atención son un tipo especial de representación ponderada.