Hasil Kali Dalam Mengukur Keselarasan dalam Attention
Hitung hasil kali titik, pahami tanda dan besarnya secara geometris, lalu lihat bagaimana skor query-key menjadi bobot attention.
Kategori
Geometri Analitik
3artikeldalam kategori ini.
L1, L2, dan L-infinity Memaknai Besar Secara Berbeda
Bandingkan ukuran vektor L1, L2, dan L-infinity, lihat perubahan bentuk bola satuannya, serta bedakan penalti parameter dari batas anggaran ketahanan input.
Norma Vektor Mengukur Besar, Bukan Makna
Hitung norma vektor L1, L2, dan L-infinity, periksa aturan definisinya, serta pahami apa yang dapat dan tidak dapat disimpulkan dari magnitudo sebuah embedding.