Dua Observasi, Satu Pasang Parameter: Sistem Persamaan untuk AI

Sebuah aturan prediksi sederhana memiliki dua parameter yang belum diketahui:

\widehat y=wx+b.

Observasi pertama menyatakan bahwa input $x=1$ menghasilkan target $y=5$ . Ini tidak mengungkap bobot $w$ atau bias $b$ secara terpisah. Observasi ini memberikan satu kendala, $w+b=5$ , yang pasangan parameternya membentuk satu garis penuh. Observasi kedua, $(x,y)=(3,9)$ , memberikan garis lain, $3w+b=9$ .

Hanya satu titik terletak pada kedua garis: $(w,b)=(2,3)$ . Pada titik itu, model yang sama cocok dengan kedua baris data. Titik bersama ini adalah gagasan inti sistem persamaan linear: setiap persamaan menetapkan kendala, dan solusi harus melewati semua kendala secara bersamaan.

Di akhir pelajaran ini, Anda akan mampu menafsirkan sistem sebagai kendala simultan, menyelesaikan sistem dua persamaan dengan substitusi atau pengurangan, mengklasifikasikan dua garis sebagai berpotongan, sejajar, atau berimpit, serta memulihkan dua parameter model yang tepat dari dua observasi.

Hasil belajar: Menafsirkan sistem sebagai kendala simultan dan mengklasifikasikan perpotongannya.

Pelajaran ini melanjutkan Pelajaran 11: Persamaan Linear untuk AI, di mana satu persamaan menjadi satu garis geometris dan substitusi menguji apakah suatu titik termasuk di dalamnya. Situs pendamping resmi Mathematics for Machine Learning menempatkan sistem persamaan linear di awal aljabar linear. Bagian 2.1 menghubungkan solusi simultan dengan perpotongan geometris. Skenario pemulihan parameter, derivasi, kode, visual, dan penilaian di bawah ini adalah karya orisinal.

Satu solusi harus lolos dua uji kebenaran

Pertimbangkan dua persamaan linear dengan peubah real yang sama, $w$ dan $b$ :

\begin{aligned} a_1w+b&=c_1,\\ a_2w+b&=c_2. \end{aligned}

Bilangan real tetap $a_1$ dan $a_2$ mengalikan bobot. Bilangan real tetap $c_1$ dan $c_2$ adalah keluaran yang diperlukan. Pasangan terurut $(w,b)$ adalah pengaturan parameter yang belum diketahui.

Kata “bersamaan” mencegah kesalahan umum. Pasangan $(0,5)$ menyelesaikan $w+b=5$ , tetapi gagal pada persamaan kedua karena $3(0)+5=5\ne9$ . Pasangan $(3,0)$ menyelesaikan $3w+b=9$ , tetapi gagal pada persamaan pertama karena $3+0\ne5$ . Masing-masing pasangan cocok dengan satu baris; tidak satu pun cocok dengan sistem.

Kandidat $(w,b)$	Uji $w+b=5$	Uji $3w+b=9$	Menyelesaikan sistem?
$(0,5)$	$0+5=5$	$0+5=5$	Tidak
$(3,0)$	$3+0=3$	$9+0=9$	Tidak
$(2,3)$	$2+3=5$	$6+3=9$	Ya

Sistem belum terselesaikan sampai penetapan nilai yang sama lolos setiap uji kebenaran asli.

Pengurangan mengisolasi perubahan antarobservasi

Sistem pembuka adalah

\begin{aligned} w+b&=5, \tag{1}\\ 3w+b&=9. \tag{2} \end{aligned}

Kedua persamaan memuat $+b$ yang sama. Kurangkan seluruh sisi kiri persamaan (1) dari persamaan (2), dan lakukan hal yang sama pada sisi kanan, untuk menghapus $b$ :

\begin{aligned} (3w+b)-(w+b)&=9-5,\\ 3w+b-w-b&=4,\\ 2w&=4,\\ w&=2. \end{aligned}

Sekarang substitusikan $w=2$ ke salah satu persamaan asli. Dengan persamaan (1),

2+b=5 \iff b=3.

Pengurangan ini memiliki interpretasi AI. Di antara kedua observasi, input naik sebesar $3-1=2$ dan output naik sebesar $9-5=4$ . Bias menyumbang jumlah yang sama pada kedua prediksi, sehingga menghilang dari selisih. Bobot adalah perubahan output per satu unit perubahan input:

w=\frac{9-5}{3-1}=\frac42=2.

Setelah bobot seperti kemiringan diketahui, salah satu baris mengungkap bias. Ini adalah pencocokan tepat dua titik, bukan gambaran pelatihan biasa dengan dataset besar. Observasi nyata dapat mengandung derau, dan baris ketiga bisa tidak sesuai dengan garis yang ditentukan dua baris pertama. Pelajaran berikutnya akan mengembangkan alat untuk kasus tersebut.

Jawaban aljabar adalah perpotongan geometris

Setiap observasi dapat ditulis ulang sebagai garis pada bidang parameter $(w,b)$ :

\begin{aligned} w+b=5 &\iff b=5-w,\\ 3w+b=9 &\iff b=9-3w. \end{aligned}

Grafik ini bukan plot biasa input teramati $x$ terhadap target $y$ . Koordinat horizontalnya adalah bobot kandidat dan koordinat vertikalnya adalah bias kandidat. Setiap titik pada garis pertama cocok dengan observasi 1. Setiap titik pada garis kedua cocok dengan observasi 2. Perpotongan di $(2,3)$ cocok dengan keduanya.

Ubah observasi kedua di bawah. Garis utuh tetap $w+b=5$ ; garis putus-putus menjadi $x_2w+b=y_2$ . Penggeser bawaan mengatur input kedua $x_2$ dan target $y_2$ , sedangkan tiga tombol melompat ke keadaan perpotongan yang representatif.

Dua observasi menjadi dua kendala parameter. Titik yang sama persis adalah model yang cocok dengan keduanya.

Ubah observasi kedua

Input kedua x₂

Menetapkan koefisien bobot dalam x₂w + b = y₂. Input pertama tetap 1.

Target kedua y₂

Menetapkan sisi kanan kendala kedua. Target pertama tetap 5.

Jelajahi konfigurasi representatif

Satu solusi: garis bertemu pada bobot w = 2 dan bias b = 3.

Observasi 1: w + b = 5 (utuh)Observasi 2: x₂w + b = y₂ (putus-putus)⊗Solusi bersama (tanda tambah dilingkari)

Kendala saat ini dan alternatif teks untuk grafik
Besaran	Nilai saat ini	Interpretasi
Kendala observasi 1	w + b = 5	Setiap titik pada garis utuh cocok dengan observasi pertama.
Kendala observasi 2	3w + b = 9	Setiap titik pada garis putus-putus cocok dengan observasi kedua.
Kelas perpotongan	Satu titik bersama	Satu solusi: garis bertemu pada bobot w = 2 dan bias b = 3.
Bobot w yang dipulihkan	2	Koordinat ini termasuk solusi bersama.
Bias b yang dipulihkan	3	Koordinat ini termasuk solusi bersama.

Keadaan pertama komponen yang dirender server adalah sistem contoh: $x_2=3$ , $y_2=9$ , dan $(w,b)=(2,3)$ . Kalimat status dan tabelnya memuat kesimpulan secara independen dari SVG sehingga tetap berguna tanpa JavaScript. Label garis juga memakai pola utuh dan putus-putus, sedangkan perpotongan memiliki bentuk tanda tambah dilingkari sendiri; warna bukan satu-satunya petunjuk keadaan.

Tiga gambaran mencakup semua kemungkinan dua garis

Untuk keluarga persamaan

\begin{aligned} a_1w+b&=c_1,\\ a_2w+b&=c_2, \end{aligned}

pengurangan persamaan pertama dari persamaan kedua menghasilkan

(a_2-a_1)w=c_2-c_1.

Kedua selisih tersebut mengklasifikasikan geometri tanpa memerlukan matriks.

Perbandingan koefisien	Perbandingan target	Geometri	Himpunan solusi sistem
$a_2\ne a_1$	Nilai apa pun	Berpotongan	Satu titik
$a_2=a_1$	$c_2\ne c_1$	Sejajar	Kosong: $\varnothing$
$a_2=a_1$	$c_2=c_1$	Berimpit	Seluruh garis bersama

Ketika $a_2\ne a_1$ , pembagian sah dilakukan dan menghasilkan satu bobot:

w=\frac{c_2-c_1}{a_2-a_1}, \qquad b=c_1-a_1w.

Ketika $a_2=a_1$ , selisih sisi kiri bernilai nol. Jika target berbeda, persamaan hasil pengurangan menjadi $0=c_2-c_1$ dengan sisi kanan tak nol, yaitu kontradiksi. Jika target juga sama, pengurangan menjadi identitas $0=0$ : persamaan kedua mengulang yang pertama dan tidak menambahkan kendala baru.

Pelajaran berikutnya akan mengubah pratinjau ini menjadi kajian sistematis tentang tidak ada solusi, satu solusi, dan banyak solusi. Untuk sekarang, uji geometrisnya cukup: garis berpotongan memiliki satu titik bersama, garis sejajar yang berbeda tidak memiliki titik bersama, dan garis berimpit memiliki semua titik yang sama.

NumPy memverifikasi kecocokan dan Matplotlib menggambar kendala

Perhitungan ini dapat diterapkan tanpa menyembunyikannya di dalam solver umum. Fungsi di bawah menerima tepat dua observasi, menangani batas input berulang, dan memeriksa parameter yang dipulihkan terhadap kedua baris asli.

import numpy as np
import matplotlib.pyplot as plt


def recover_two_parameter_model(x, y, atol=1e-12):
    delta_x = x[1] - x[0]
    delta_y = y[1] - y[0]

    if np.isclose(delta_x, 0.0, rtol=0.0, atol=atol):
        if np.isclose(delta_y, 0.0, rtol=0.0, atol=atol):
            return "many", None
        return "none", None

    weight = delta_y / delta_x
    bias = y[0] - weight * x[0]
    residual = weight * x + bias - y
    return "one", (weight, bias, residual)


x = np.array([1.0, 3.0])
y = np.array([5.0, 9.0])
classification, result = recover_two_parameter_model(x, y)
weight, bias, residual = result

print("classification:", classification)
print("weight:", weight)
print("bias:", bias)
print("predictions:", weight * x + bias)
print("residual:", residual)
print(
    "both constraints satisfied:",
    np.isclose(residual, 0.0, rtol=0.0, atol=1e-12),
)

candidate_weight = np.linspace(-1.0, 5.0, num=121)
bias_from_first = y[0] - x[0] * candidate_weight
bias_from_second = y[1] - x[1] * candidate_weight

plt.plot(candidate_weight, bias_from_first, label="w + b = 5")
plt.plot(
    candidate_weight,
    bias_from_second,
    "--",
    label="3w + b = 9",
)
plt.plot([weight], [bias], "o", label="shared solution")
plt.xlabel("weight w")
plt.ylabel("bias b")
plt.legend()
plt.show()

Keluaran eksekusi untuk kasus berpotongan adalah:

classification: one
weight: 2.0
bias: 3.0
predictions: [5. 9.]
residual: [0. 0.]
both constraints satisfied: [ True  True]

numpy.isclose membandingkan angka menggunakan toleransi relatif dan absolut yang eksplisit. Di sini nilai acuannya nol, sehingga rtol=0.0 dan atol=1e-12 memperjelas ambang absolut yang dimaksud. Uji tersebut memeriksa eksekusi floating-point ini; uji itu tidak menggantikan derivasi aljabar eksak.

numpy.linspace menghasilkan sampel berjarak sama pada interval yang dipilih. Sebanyak 121 bobot sampel memberi Matplotlib cukup simpul garis untuk plot yang rapi, tetapi sampel tersebut bukan himpunan solusi matematis. Setiap garis memuat tak terhingga banyak titik real. Dokumentasi Matplotlib plot menyatakan bahwa nilai x dan y yang diberikan menjadi koordinat simpul garis; memanggilnya dua kali menggambar dua garis kendala.

Kecocokan eksak bisa gagal ketika dataset menuntut lebih banyak

Model yang dipulihkan $\widehat y=2x+3$ cocok dengan $(1,5)$ dan $(3,9)$ . Misalkan observasi ketiga adalah $(2,8)$ . Model memprediksi

\widehat y=2(2)+3=7,

sehingga residualnya $7-8=-1$ . Pada bidang parameter, baris baru memberikan garis ketiga, $2w+b=8$ , yang tidak melewati $(2,3)$ . Tidak ada satu pasangan parameter yang cocok dengan ketiga baris secara eksak.

Ini tidak membuat perhitungan pertama keliru. Masalahnya yang berubah. Dua baris memilih garis eksak melalui kedua observasi tersebut; baris ketiga menunjukkan bahwa seluruh dataset tidak terletak di atasnya. Praktik pembelajaran mesin sering mengganti “memenuhi setiap persamaan secara eksak” dengan “mencari parameter yang prediksinya secara keseluruhan dekat”, tetapi masalah aproksimasi itu termasuk pelajaran berikutnya.

Kesalahpahaman lain bergerak ke arah sebaliknya. Jika dua observasi identik, misalnya $(1,5)$ dan $(1,5)$ , sistem belum mempelajari kedua parameter. Sistem hanya menulis $w+b=5$ dua kali. Setiap titik pada satu garis itu masih cocok, sehingga bobot dan bias tetap tidak teridentifikasi.

Klaim dataset berada pada perpotongan

Satu observasi dapat membuktikan bahwa pasangan parameter cocok dengan satu baris. Sistem menaikkan standarnya: pasangan yang sama harus lolos uji setiap baris. Dalam contoh dua baris, pengurangan observasi menyingkap bobot, substitusi memulihkan bias, dan perpotongan dua garis parameter menjelaskan mengapa jawabannya sama.

Kebiasaan geometris ini akan dibawa ke pelajaran berikutnya. Ketika kendala baru muncul, periksa apa yang ditambahkannya: perpotongan baru, kontradiksi, atau sekadar garis yang sama digambar lagi.

Uji pemahaman

Pertanyaan 1

Uji (w, b) = (1, 4), (2, 3), dan (3, 0) terhadap sistem w + b = 5 dan 3w + b = 9. Pasangan mana, jika ada, yang menyelesaikan sistem?

Tampilkan solusi langkah demi langkah

Substitusikan setiap pasangan ke kedua persamaan asli.

Untuk $(1,4)$ ,

1+4=5, \qquad 3(1)+4=7\ne9.

Pasangan ini hanya cocok dengan kendala pertama. Untuk $(2,3)$ ,

2+3=5, \qquad 3(2)+3=9.

Pasangan ini cocok dengan kedua kendala. Untuk $(3,0)$ ,

3+0=3\ne5, \qquad 3(3)+0=9.

Pasangan ini hanya cocok dengan kendala kedua. Jadi $(2,3)$ adalah satu-satunya pasangan yang tercantum yang menyelesaikan sistem. Lolos satu uji kebenaran saja tidak cukup.

Pertanyaan 2

Selesaikan 2u + v = 8 dan 5u + v = 17 dengan pengurangan. Verifikasi hasilnya pada kedua persamaan dan tentukan titik perpotongannya.

Tampilkan solusi langkah demi langkah

Kurangkan persamaan pertama dari persamaan kedua. Tanda kurung memastikan pengurangan berlaku pada setiap suku:

\begin{aligned} (5u+v)-(2u+v)&=17-8,\\ 3u&=9,\\ u&=3. \end{aligned}

Substitusikan $u=3$ ke persamaan pertama:

2(3)+v=8 \iff 6+v=8 \iff v=2.

Sekarang verifikasi kedua persamaan asli:

2(3)+2=8, \qquad 5(3)+2=17.

Solusi dan titik perpotongan geometrisnya adalah $(u,v)=(3,2)$ .

Pertanyaan 3

Model afin ŷ = wx + b mengamati (x, y) = (−1, 1) dan (2, 10). Pulihkan w dan b, lalu tulis aturan prediksi yang cocok.

Tampilkan solusi langkah demi langkah

Terjemahkan observasi menjadi kendala parameter:

\begin{aligned} -w+b&=1,\\ 2w+b&=10. \end{aligned}

Kurangkan persamaan pertama dari persamaan kedua:

(2w+b)-(-w+b)=10-1 \iff 3w=9 \iff w=3.

Substitusikan $w=3$ ke $-w+b=1$ :

-3+b=1 \iff b=4.

Aturan yang cocok adalah $\widehat y=3x+4$ . Aturan ini menghasilkan $3(-1)+4=1$ dan $3(2)+4=10$ , sehingga kedua residual bernilai nol.

Pertanyaan 4

Klasifikasikan perpotongan 2x + y = 4 dan 2x + y = 7. Tunjukkan bagaimana pengurangan membuktikan klasifikasi tersebut.

Tampilkan solusi langkah demi langkah

Kurangkan persamaan pertama dari persamaan kedua:

(2x+y)-(2x+y)=7-4 \iff 0=3.

Pernyataan $0=3$ salah untuk setiap $(x,y)$ . Kedua garis memiliki sisi kiri yang sama, sehingga kemiringannya sama, tetapi sisi kanan yang berbeda menempatkannya pada intersep berbeda. Keduanya adalah garis sejajar yang berbeda. Perpotongannya, dan karena itu himpunan solusi sistemnya, adalah $\varnothing$ .

Pertanyaan 5

Klasifikasikan sistem 2x + 2y = 10 dan x + y = 5. Jelaskan mengapa menulis dua persamaan tidak menciptakan solusi unik.

Tampilkan solusi langkah demi langkah

Bagilah persamaan pertama dengan bilangan tak nol $2$ :

2x+2y=10 \iff x+y=5.

Hasilnya persis persamaan kedua. Karena itu kedua persamaan menggambar garis yang sama. Setiap titik $(t,5-t)$ dengan $t\in\mathbb R$ memenuhi keduanya:

t+(5-t)=5

dan menggandakan kesetaraan itu menghasilkan $2t+2(5-t)=10$ . Sistem memiliki tak terhingga banyak solusi di sepanjang satu garis berimpit; persamaan kedua mengulang, bukan mempersempit kendala pertama.

Pertanyaan 6

Seorang siswa mengurangkan w + b = 5 dari 3w + b = 9 dan menulis 2w + 2b = 4. Temukan kesalahan pertama, selesaikan dengan benar, lalu verifikasi.

Tampilkan solusi langkah demi langkah

Pengurangan harus diterapkan pada seluruh sisi kiri pertama:

(3w+b)-(w+b)=3w+b-w-b.

$+2b$ milik siswa adalah kesalahan distribusi tanda. Karena $b-b=0$ , langkah yang benar adalah

2w=4 \iff w=2.

Substitusi ke $w+b=5$ menghasilkan $2+b=5$ , sehingga $b=3$ . Verifikasi pada kedua persamaan asli menghasilkan

2+3=5, \qquad 3(2)+3=9.

Jadi $(w,b)=(2,3)$ adalah solusinya.

Pertanyaan 7

Model ŷ = 2x + 3 cocok dengan observasi (1, 5) dan (3, 9). Observasi ketiga adalah (2, 8). Apakah pasangan parameter yang sama menyelesaikan ketiga kendala? Hitung dan tafsirkan residualnya.

Tampilkan solusi langkah demi langkah

Evaluasi model pada input ketiga:

\widehat y=2(2)+3=7.

Dengan residual $r=\widehat y-y$ , residual ketiganya adalah

r=7-8=-1.

Pasangan $(w,b)=(2,3)$ masih menyelesaikan dua kendala pertama, tetapi gagal pada kendala ketiga karena $2w+b=2(2)+3=7\ne8$ . Jadi tidak, pasangan parameter ini tidak menyelesaikan sistem tiga persamaan. Residual negatif berarti prediksinya satu unit di bawah target ketiga.

Satu solusi harus lolos dua uji kebenaran

Pengurangan mengisolasi perubahan antarobservasi

Jawaban aljabar adalah perpotongan geometris

Tiga gambaran mencakup semua kemungkinan dua garis

NumPy memverifikasi kecocokan dan Matplotlib menggambar kendala

Kecocokan eksak bisa gagal ketika dataset menuntut lebih banyak

Klaim dataset berada pada perpotongan

Uji pemahaman

Sumber

Ikuti artikel Matematika untuk AI terbaru

Lanjut membaca

Eliminasi Gauss Mempertahankan Himpunan Solusi

Tidak ada solusi, satu solusi, atau banyak solusi

Aljabar Linear dalam Jaringan Saraf Kecil