Basis Memberi Vektor AI Sistem Koordinat yang Dapat Dibalik

Titik yang sama dalam representasi dua dimensi sebuah model dapat ditulis sebagai (1, 7) atau (3, 2). Kedua pasangan itu dapat menyatakan vektor dengan koordinat pertama 1 dan koordinat kedua 7, asalkan kita menjelaskan sistem koordinat yang digunakan. Pasangan pertama memakai sumbu horizontal dan vertikal yang biasa kita kenal. Pasangan kedua memakai dua vektor basis yang miring. Basis membuat cara alternatif ini menjadi cara yang lengkap dan tidak ambigu untuk menyatakan setiap vektor dalam ruang tersebut.

Di akhir pelajaran, kamu akan dapat memeriksa apakah sekumpulan vektor merupakan basis, menghitung koordinat sebuah vektor dalam basis tersebut, dan menjelaskan apa yang perlu berubah pada model linear ketika koordinat masukannya berubah.

Hasil belajar: Memverifikasi sebuah basis dan menyatakan vektor dalam koordinat basis.

Pelajaran ini melanjutkan kebebasan linear dan rentang: basis menggabungkan kedua gagasan itu. Pembahasan mengikuti Bagian 2.6 dari buku Mathematics for Machine Learning, sedangkan contoh numerik, perhitungan skor model, penjelajah interaktif, dan pertanyaan di bawah ini adalah karya orisinal.

Basis menyediakan arah secukupnya

Kita bekerja dalam ruang vektor berdimensi hingga. Sekumpulan vektor menjadi basis suatu ruang jika memenuhi dua pengujian:

Membentang ruang: setiap vektor dalam ruang dapat dibentuk dari sekumpulan vektor itu melalui kombinasi linear.
Bebas linear: tidak ada vektor yang mubazir; hanya kombinasi linear dengan semua koefisien nol yang menghasilkan vektor nol.

Bersama-sama, syarat ini berarti arah yang tersedia cukup untuk mencapai setiap vektor dan tidak ada arah tambahan yang menimbulkan ambiguitas. Bagian 2.6 buku tersebut memberikan karakterisasi yang setara: basis adalah himpunan pembentang minimal sekaligus himpunan bebas linear maksimal, dan setiap vektor memiliki kombinasi linear yang unik dalam basis itu.

Di $\mathbb{R}^n$ , sebuah basis memiliki tepat $n$ vektor. Untuk subruang yang lebih kecil, jumlah vektor basis sama dengan banyaknya arah independen pada subruang tersebut. Sebagai contoh, dua vektor dapat menjadi basis bagi sebuah bidang di dalam $\mathbb{R}^3$ tanpa menjadi basis seluruh $\mathbb{R}^3$ .

Mengapa koordinat menjadi unik

Misalkan $\boldsymbol{b}_1,\ldots,\boldsymbol{b}_n$ adalah basis dan $\boldsymbol{v}$ adalah sembarang vektor dalam ruang tersebut. Sifat membentang menjamin bahwa setidaknya ada satu kumpulan koefisien yang dapat menyatakannya:

\boldsymbol{v}=c_1\boldsymbol{b}_1+\cdots+c_n\boldsymbol{b}_n.

Sekarang bayangkan kumpulan koefisien lain, $d_1,\ldots,d_n$ , menghasilkan vektor yang sama. Dengan mengurangkan kedua ekspresi, kita memperoleh

0=(c_1-d_1)\boldsymbol{b}_1+\cdots+(c_n-d_n)\boldsymbol{b}_n.

Karena vektor basis bebas linear, setiap koefisien dalam kombinasi nol ini harus nol. Jadi, $c_i=d_i$ untuk setiap $i$ . Koordinatnya unik karena basis tidak memiliki arah yang mubazir.

Kita menulis kolom koordinat sebagai $[\boldsymbol{v}]_B$ . Subskripnya penting: subskrip itu menunjukkan basis yang menghasilkan koordinat tersebut. Vektor dan kolom koordinatnya saling berkaitan, tetapi keduanya bukan objek yang dapat saling menggantikan.

Menghitung perubahan koordinat

Ambil dua vektor di $\mathbb{R}^2$ :

\boldsymbol{b}_1=\begin{bmatrix}1\\1\end{bmatrix},\qquad \boldsymbol{b}_2=\begin{bmatrix}-1\\2\end{bmatrix}.

Letakkan vektor basis pada kolom sebuah matriks:

B=\begin{bmatrix}1&-1\\1&2\end{bmatrix}.

Keduanya bebas linear: determinannya $1\cdot2-(-1\cdot1)=3$ , bukan nol. Karena ada dua vektor bebas linear di $\mathbb{R}^2$ , keduanya juga membentang bidang tersebut dan membentuk basis.

Cari koordinat $\boldsymbol{v}=(1,7)^\mathsf{T}$ . Kolom koordinat $\boldsymbol{c}=[\boldsymbol{v}]_B$ harus memenuhi $B\boldsymbol{c}=\boldsymbol{v}$ . Dengan menuliskan $\boldsymbol{c}=(c_1,c_2)^\mathsf{T}$ , persamaan matriks itu menjadi dua persamaan biasa:

\begin{aligned} c_1-c_2&=1,\\ c_1+2c_2&=7. \end{aligned}

Kurangkan persamaan pertama dari persamaan kedua: $3c_2=6$ , sehingga $c_2=2$ . Lalu $c_1-2=1$ , jadi $c_1=3$ . Periksa rekonstruksinya secara langsung:

3\begin{bmatrix}1\\1\end{bmatrix} +2\begin{bmatrix}-1\\2\end{bmatrix} =\begin{bmatrix}3-2\\3+4\end{bmatrix} =\begin{bmatrix}1\\7\end{bmatrix}.

Pasangan koordinat $(3,2)$ berarti “tiga langkah sepanjang $\boldsymbol{b}_1$ dan dua langkah sepanjang $\boldsymbol{b}_2$ ”. Pasangan ini menamai titik akhir yang sama dengan koordinat standar $(1,7)$ .

Satu vektor, dua sistem koordinat

Pilih sistem koordinat

Koordinat dalam basis yang dipilih: (1, 7)

Vektor dalam koordinat standar: (1, 7)

v = c₁b₁ + c₂b₂

Koordinat dalam basis yang dipilih: (1, 7)

Titik akhirnya tetap di (1, 7). Perubahan basis mengubah pasangan koordinat yang digunakan untuk menamai titik itu.

Penjelajah dimulai dengan koordinat standar. Gunakan pemilih yang dapat diakses lewat keyboard untuk beralih ke basis miring: panah menuju $\boldsymbol{v}$ tetap berakhir pada titik yang sama, sementara koordinat yang ditampilkan berubah dari $(1,7)$ menjadi $(3,2)$ . Keterangan dan pembacaan nilai juga menyajikan hasil sebagai teks, selain dalam diagram.

Biarkan NumPy menyelesaikan persamaan koordinat

Untuk basis yang lebih besar, hubungan yang sama menjadi sebuah sistem linear. Simpan vektor basis sebagai kolom, lalu selesaikan $B\boldsymbol{c}=\boldsymbol{v}$ :

import numpy as np

B = np.array([[1, -1],
              [1,  2]])  # columns are b1=(1, 1) and b2=(-1, 2)
v = np.array([1, 7])

rank = np.linalg.matrix_rank(B)
coordinates = np.linalg.solve(B, v)
reconstructed = B @ coordinates

print(rank)                         # 2: full rank in R^2
print(coordinates)                  # [3. 2.]
print(np.allclose(reconstructed, v)) # True

Untuk matriks persegi ini di $\mathbb{R}^2$ , rank penuh berarti kedua kolomnya bebas linear, dan itu cukup untuk menetapkan bahwa keduanya membentuk basis. numpy.linalg.solve mengembalikan solusi sistem persegi dengan rank penuh; NumPy memunculkan LinAlgError ketika matriksnya singular atau bukan matriks persegi. Hasil rank di sini merupakan diagnostik numerik: NumPy memperkirakan rank melalui nilai singular dan toleransi, sehingga data floating-point yang hampir bergantung linear mungkin memerlukan toleransi yang dipilih sesuai skala dan presisi pengukuran aplikasi. Lihat referensi resmi NumPy matrix_rank dan solve.

Untuk contoh bilangan bulat kecil yang eksak, perhitungan tangan seperti determinan di atas memberikan bukti yang tegas. Untuk data bernilai real, pemeriksaan rekonstruksi berguna, tetapi bukan pengujian basis dengan sendirinya: matriks singular masih dapat merekonstruksi beberapa vektor. Periksa juga bahwa bentuk matriksnya sesuai dan rank-nya penuh.

Bobot model harus mengikuti koordinatnya

Perubahan basis dapat memperjelas representasi internal model, tetapi perubahan itu harus dikoordinasikan dengan operasi yang menggunakannya. Pertimbangkan skor linear $s=\boldsymbol{w}^{\mathsf T}\boldsymbol{v}$ dengan $\boldsymbol{w}=(2,1)^\mathsf{T}$ dan $\boldsymbol{v}=(1,7)^\mathsf{T}$ . Dalam koordinat standar, skornya adalah

2\cdot1+1\cdot7=9.

Dalam basis miring, $\boldsymbol{v}=B\boldsymbol{c}$ dengan $\boldsymbol{c}=(3,2)^\mathsf{T}$ . Maka

\boldsymbol{w}^{\mathsf T}\boldsymbol{v} =\boldsymbol{w}^{\mathsf T}B\boldsymbol{c} =(B^{\mathsf T}\boldsymbol{w})^{\mathsf T}\boldsymbol{c}.

Bobot yang sesuai dalam koordinat baru adalah $B^{\mathsf T}\boldsymbol{w}=(3,0)^\mathsf{T}$ , dan skornya tetap $3\cdot3+0\cdot2=9$ . Jika bobot lama $(2,1)$ langsung diterapkan pada pasangan koordinat baru, skornya menjadi $2\cdot3+1\cdot2=8$ . Representasinya telah dijelaskan ulang, tetapi parameter model belum diperbarui agar sesuai.

Kesetaraan ini berlaku persis untuk skor linear yang ditampilkan. Jaringan saraf yang menerapkan aktivasi nonlinear, normalisasi, atau operasi lain di antara lapisan mungkin tidak mempertahankan perilakunya di bawah perubahan basis sembarang. Dalam praktiknya, koordinat representasi terikat pada parameter yang dipelajari dan operasi di sekitarnya; mengubah satu bagian saja dapat mengubah prediksi.

Ketika sekumpulan kandidat gagal

Dua vektor kandidat dapat menunjuk ke arah yang sama, tetapi tetap tampak sebagai dua entri dalam sebuah daftar:

\boldsymbol{a}_1=\begin{bmatrix}1\\1\end{bmatrix},\qquad \boldsymbol{a}_2=\begin{bmatrix}2\\2\end{bmatrix}.

Vektor kedua adalah dua kali vektor pertama. Determinannya nol, dan rentangnya hanya garis $y=x$ , bukan seluruh bidang. Vektor $(1,7)$ sama sekali tidak dapat dijangkau dengan keduanya. Bahkan vektor yang dapat dijangkau bisa memiliki koordinat ambigu: $(2,2)$ dapat ditulis sebagai $2\boldsymbol{a}_1+0\boldsymbol{a}_2$ atau $0\boldsymbol{a}_1+1\boldsymbol{a}_2$ .

Vektor yang hampir sejajar dapat lolos uji kebebasan linear eksak, tetapi koordinat yang dihasilkannya dapat sangat sensitif terhadap perubahan kecil pada pengukuran atau pembulatan. Ini adalah masalah pengondisian numerik: koordinat matematisnya mungkin unik, sedangkan nilai hasil hitungnya rapuh. Estimasi rank dan residu rekonstruksi menjawab pertanyaan yang berbeda, jadi tafsirkan keduanya sesuai presisi data.

Karena itu, basis lebih dari sekadar daftar vektor yang ringkas. Basis adalah suatu kontrak: setiap vektor dalam ruang yang dipilih dapat dijangkau, dan setelah basis ditetapkan, hanya ada satu tupel koordinat yang menggambarkan tiap vektor. Jumlah vektor basis lalu memberikan dimensi ruang, langkah berikutnya dalam menghubungkan aljabar linear dengan representasi model.

Periksa pemahamanmu

Pertanyaan 1

Apakah (2, 0) dan (1, 3) membentuk basis untuk ℝ²? Tunjukkan uji kebebasan linear dan jelaskan mengapa uji itu cukup di sini.