Kursus Matematika untuk AI · Pelajaran 49 dari 180
Fungsi Juga Dapat Memiliki Perkalian Dalam
Gunakan integral atau jumlah sampel yang memperhitungkan jarak untuk membandingkan bentuk fungsi, lalu hubungkan perkalian dalam fungsi dengan fitur basis dalam AI.
Perkalian dalam dapat memberi tahu apakah dua vektor menunjuk ke arah yang mirip. Namun, sinyal, kurva, atau deret waktu mungkin memiliki jauh lebih dari tiga koordinat. Bagaimana sistem AI dapat membandingkan bentuk dua fungsi tanpa berpura-pura bahwa kurva hanyalah satu daftar angka yang dipilih secara sembarang?
Gagasan yang sama dapat diperluas secara alami: kalikan kedua fungsi titik demi titik, lalu jumlahkan hasil kalinya di sepanjang suatu domain. Untuk domain kontinu, jumlah tersebut menjadi integral. Hasilnya adalah perkalian dalam fungsi yang dapat mengukur tumpang tindih, membangun fungsi basis ortogonal, dan mengubah bentuk menjadi fitur yang dapat digunakan model.
Pada akhir pelajaran ini, Anda akan mampu menafsirkan , menghitung contoh kecil secara tepat, mengaproksimasinya dari sampel dengan jarak yang benar, dan menjelaskan mengapa skor kemiripan umum tidak otomatis merupakan perkalian dalam.
Capaian pembelajaran: Menafsirkan kemiripan fungsi melalui integral atau jumlah diskret.
Pelajaran ini menghubungkan Pelajaran 041: Perkalian Dalam Mengukur Keselarasan, saat hasil kali titik mengukur tumpang tindih antara vektor berhingga, dengan Pelajaran 002: Fungsi sebagai Mesin Matematika yang Dapat Digunakan Kembali, saat fungsi merupakan aturan yang mengubah setiap masukan menjadi keluaran. Buku resmi Mathematics for Machine Learning menempatkan generalisasi ini di Bagian 3.7. Fungsi yang dikerjakan, bagan sampel, keluaran NumPy, hubungan dengan AI, dan soal-soal penilaian di sini adalah karya orisinal.
Dari hasil kali titik berhingga ke perkalian dalam fungsi
Untuk dua vektor real dan , perkalian dalam biasa adalah
Setiap koordinat menyumbangkan satu hasil kali. Hasil kali positif berarti kedua nilai memiliki tanda yang sama pada koordinat tersebut; hasil kali negatif berarti keduanya menarik ke arah yang berlawanan. Penjumlahan mempertahankan kontribusi yang selaras dan membatalkan kontribusi yang bertentangan.
Fungsi bernilai real pada interval dapat dipandang sebagai vektor dengan satu koordinat untuk setiap posisi masukan . Ada tak terhingga banyak posisi seperti itu, sehingga jumlah koordinat menjadi integral.
Definisi ini mewarisi perilaku berguna dari perkalian dalam vektor ketika fungsi berada dalam ruang fungsi terintegralkan yang sesuai: linear pada setiap argumen, simetris untuk fungsi real, dan positif ketika fungsi tak nol dibandingkan dengan dirinya sendiri. Secara khusus,
Norma fungsi yang bersesuaian adalah . Norma ini mengukur total besar kuadrat di seluruh interval, bukan tinggi pada satu titik yang dipilih.
Integral contoh: bentuk yang berpotongan tetap dapat bertumpang tindih
Gunakan interval dan dua bentuk sederhana:
Satu kurva menurun sementara yang lain menanjak. Keduanya bertemu pada , tetapi keduanya nonnegatif pada interval tersebut, sehingga hasil kali titik demi titiknya tidak pernah negatif. Perkalian dalamnya adalah
Visual di bawah menunjukkan perhitungan yang sama dalam bentuk yang tidak mengharuskan Anda membaca integral terlebih dahulu. Kurva biru solid adalah , kurva kuning ambar putus-putus adalah , dan batang hijau kebiruan menunjukkan hasil kali sampel . Angka yang tepat tetap tersedia dalam tabel, sehingga kesimpulan tidak bergantung pada warna, gambar yang berubah menurut ukuran layar, atau kode sisi klien.
Visual ruang fungsi statis
Dua kurva dan hasil kali yang mengukur tumpang tindihnya
Dua kurva nonnegatif menghasilkan hasil kali positif di antara kedua titik ujung. Tabel menuliskan setiap nilai sampel secara eksplisit.
| xᵢ | f(xᵢ) | g(xᵢ) | f(xᵢ)g(xᵢ) | Kontribusi hasil kali |
|---|---|---|---|---|
| 0 | 1 | 0 | 0 | Nol pada titik ujung ini |
| 0.25 | 0.75 | 0.25 | 0.1875 | Tumpang tindih positif |
| 0.5 | 0.5 | 0.5 | 0.25 | Tumpang tindih positif |
| 0.75 | 0.25 | 0.75 | 0.1875 | Tumpang tindih positif |
| 1 | 0 | 1 | 0 | Nol pada titik ujung ini |
Batang adalah bantuan visual untuk hasil kali titik demi titik. Integral adalah definisi kontinu; estimasi berbasis sampel juga harus memperhitungkan jarak dan bobot titik ujung.
Sampel mengubah integral menjadi hasil kali titik berbobot
Implementasi biasanya melihat sampel, bukan rumus simbolis. Misalkan adalah posisi sampel dan . Jika posisinya berjarak sama sebesar , jumlah sederhana berbentuk
Ekspresi ini berguna sebagai intuisi, tetapi menghitung kedua titik ujung sama beratnya dengan titik-titik di tengah. Aturan trapesium komposit memberi setengah bobot pada sampel pertama dan terakhir:
Untuk lima sampel pada visual, dan . Oleh karena itu,
Estimasi ini dekat dengan nilai tepat , tetapi bukan angka yang sama. Lebih banyak sampel biasanya mengurangi galat aproksimasi untuk kurva yang mulus ini.
Kode NumPy mencerminkan perbedaan tersebut. numpy.dot menghitung perkalian dalam satu dimensi, sehingga berguna untuk jumlah sampel mentah. numpy.trapezoid mengintegralkan nilai sampel dengan aturan trapesium komposit dan menggunakan posisi x yang eksplisit.
import numpy as np
x = np.linspace(0.0, 1.0, num=5)
f = 1.0 - x
g = x
products = f * g
raw_sample_sum = np.dot(f, g)
trapezoid_estimate = np.trapezoid(products, x=x)
weighted_sum = np.dot(np.array([0.5, 1.0, 1.0, 1.0, 0.5]), products)
weighted_sum *= x[1] - x[0]
print(products)
print(raw_sample_sum)
print(trapezoid_estimate)
print(weighted_sum)
Keluaran yang telah diverifikasi:
[0. 0.1875 0.25 0.1875 0. ]
0.625
0.15625
0.15625
Hasil kali titik mentah adalah , bukan integral. Nilai itu tidak memiliki faktor jarak dan tidak menerapkan bobot titik ujung. Dua nilai terakhir sama karena hasil kali titik berbobot eksplisit merupakan perhitungan trapesium komposit yang sama dengan yang dilakukan np.trapezoid. Untuk posisi sampel yang tidak berjarak sama, berikan posisi tersebut sebagai x; jangan diam-diam menggantinya dengan satu dx global.
Fungsi basis mengubah bentuk menjadi fitur model
Perkalian dalam fungsi menjadi sangat praktis ketika model menggambarkan bentuk masukan dengan sekumpulan kecil fungsi basis. Pertimbangkan dua fungsi pada
Fungsi pertama konstan dan fungsi kedua berubah secara linear dari ke . Tumpang tindih keduanya adalah
Keduanya ortogonal di bawah interval dan bobot ini. Fungsi yang sama tidak otomatis ortogonal jika domain atau bobot berubah. Panjangnya adalah dan , sehingga pasangan ini ortogonal tetapi tidak ortonormal. Mengalikan dengan akan membuat normanya satu.
Misalkan model ekspansi fitur mengaproksimasi sinyal sebagai
Jika basisnya ortogonal, koefisien untuk satu arah tidak bercampur dengan arah lain dalam perkalian dalam. Misalnya, jika , maka
Suku kedua hilang karena fungsi basisnya ortogonal. Dalam praktik, alur AI dapat mengevaluasi pada setiap sampel dan memasukkan nilai tersebut ke pengklasifikasi, regresor, atau model hilir lainnya. Perkalian dalam menjelaskan seberapa besar bentuk yang diamati bertumpang tindih dengan setiap arah fitur yang dipilih. Perkalian dalam membuat desain fitur dapat diperiksa; perkalian dalam tidak menjamin bahwa basis yang dipilih cukup untuk tugas tersebut.
Mengapa domain, jarak, dan metrik penting
Ungkapan “fungsi yang mirip” bukan spesifikasi matematika yang lengkap. Perkalian dalam bergantung pada pilihan yang harus dibuat eksplisit oleh alur fitur produksi.
Domain yang sama. Integral membandingkan nilai pada posisi yang sama. Jika satu fungsi didefinisikan pada dan fungsi lain pada , ekspresi membutuhkan interval bersama atau aturan pengambilan sampel ulang yang dinyatakan. Memasangkan masukan yang tidak cocok secara kebetulan tidak bermakna.
Jarak sampel. np.dot(f_samples, g_samples) biasa memperlakukan setiap sampel sebagai koordinat yang sama pentingnya. Jika sampel terkumpul di satu bagian domain, jumlah itu memberi wilayah tersebut bobot lebih besar. Gunakan posisi sebenarnya atau dokumentasikan geometri diskret yang dimaksud.
Pembobotan mengubah geometri. Bobot nonnegatif dapat menekankan jendela waktu atau wilayah tempat pengukuran lebih dapat diandalkan:
Mengubah mengubah bentuk mana yang dianggap ortogonal dan fitur mana yang mendapat pengaruh lebih besar. Itu dapat menjadi pilihan pemodelan yang disengaja, bukan detail implementasi yang tidak berbahaya.
Kemiripan tidak otomatis merupakan perkalian dalam. Skor seperti mungkin berguna untuk tugas pencocokan tertentu, tetapi tidak linear terhadap fungsi dengan cara yang sama seperti perkalian dalam. Demikian pula, skor yang diskalakan ulang atau diberi ambang secara sembarang dapat bersifat simetris tanpa menjadi definit positif. Sebut suatu besaran sebagai perkalian dalam hanya setelah memeriksa persyaratan domain, keterintegralan, linearitas, simetri, dan definit positif yang sesuai untuk ruang fungsi tersebut.
Perkalian dalam fungsi mengubah pertanyaan samar—“Apakah bentuk-bentuk ini terlihat mirip?”—menjadi perhitungan yang dapat direproduksi. Integral menyediakan definisi kontinu; np.dot dan np.trapezoid membuat versi berbasis sampel menjadi eksplisit; dan fungsi basis memungkinkan sistem AI membandingkan arah bentuk yang dapat diinterpretasikan. Langkah berikutnya adalah menggunakan perkalian dalam fungsi ini untuk proyeksi, saat suatu fungsi digantikan oleh aproksimasi terdekatnya di dalam subruang yang dipilih.
Uji pemahaman Anda
Pertanyaan 1
Tuliskan perkalian dalam fungsi pada [a, b] dan jelaskan kontribusi hasil kali f(x)g(x) pada satu titik.
Tampilkan solusi langkah demi langkah
Definisinya adalah
Pada satu titik , hasil kali positif ketika kedua nilai fungsi memiliki tanda yang sama, negatif ketika tandanya berlawanan, dan nol ketika setidaknya satu nilai adalah nol. Integral menjumlahkan kontribusi lokal tersebut di seluruh domain yang dinyatakan, sehingga interval merupakan bagian dari jawabannya.
Pertanyaan 2
Hitung perkalian dalam f(x) = 1 dan g(x) = x pada [0, 1].
Tampilkan solusi langkah demi langkah
Kalikan fungsi terlebih dahulu: . Kemudian integralkan pada interval yang diberikan:
Hasilnya positif karena kedua fungsi nonnegatif pada , dan nilainya bergantung pada interval tersebut.
Pertanyaan 3
Untuk f(x) = 1 − x dan g(x) = x pada [0, 1], verifikasi nilai tepat 1/6 dan tumpang tindih ternormalisasi 1/2.
Tampilkan solusi langkah demi langkah
Perkalian dalam silang adalah
Untuk normanya, hitung
Jadi tumpang tindih ternormalisasi adalah . Nilainya di bawah satu karena kedua kurva bukan kelipatan skalar satu sama lain.
Pertanyaan 4
Dengan lima sampel x = (0, 0.25, 0.5, 0.75, 1), mengapa hasil kali titik mentah 0.625 berbeda dari estimasi trapesium 0.15625?
Tampilkan solusi langkah demi langkah
Hasil kali sampelnya adalah . Hasil kali titik mentah antara array fungsi yang disampel adalah
Itu adalah jumlah sampel tanpa bobot. Estimasi trapesium mengalikannya dengan jarak dan memberikan setengah bobot pada setiap titik ujung:
Kedua perhitungan tersebut menjawab pertanyaan numerik yang berbeda; yang kedua adalah aproksimasi integral yang memperhitungkan jarak.
Pertanyaan 5
Berapa perkalian dalam φ₀(x) = 1 dan φ₁(x) = 2x − 1 pada [0, 1], dan apa arti hasilnya?
Tampilkan solusi langkah demi langkah
Kalikan fungsi lalu integralkan:
Nilai nol berarti bentuk konstan dan bentuk linear yang dipusatkan ortogonal di bawah perkalian dalam seragam pada . Ini tidak berarti bahwa setiap definisi kemiripan fungsi yang mungkin akan menyebut keduanya tidak berhubungan; domain atau bobot baru mendefinisikan geometri baru.
Pertanyaan 6
Sebuah alur kerja mengambil sampel satu fungsi secara padat di sekitar x = 0.8 dan secara jarang di tempat lain. Mengapa np.dot biasa atas sampel dapat mengubah perkalian dalam kontinu yang dimaksud, dan apa yang seharusnya dilakukan implementasi?
Tampilkan solusi langkah demi langkah
np.dot memberikan bobot koordinat yang sama pada setiap pasangan yang diberikan. Karena itu, kelompok padat menyumbangkan lebih banyak suku hanya karena memiliki lebih banyak sampel, meskipun domain kontinu seharusnya tidak memberi wilayah tersebut bobot tambahan. Implementasi seharusnya menggunakan posisi sampel yang sebenarnya dengan np.trapezoid, atau membangun bobot kuadratur yang dibenarkan secara eksplisit untuk setiap sampel. Jika pembobotan diskret memang disengaja, dokumentasikan bahwa itu merupakan perkalian dalam yang berbeda, bukan integral kontinu seragam.
Pertanyaan 7
Mengapa S(f, g) = maxₓ f(x)g(x) tidak otomatis merupakan perkalian dalam meskipun berguna sebagai skor pencocokan?
Tampilkan solusi langkah demi langkah
Perkalian dalam harus memenuhi lebih dari sekadar penafsiran yang mirip kemiripan. Perkalian dalam harus linear pada setiap argumen, simetris untuk fungsi real, dan definit positif pada ruang fungsi yang dipilih. Operasi maksimum memilih satu titik dan pada umumnya tidak terdistribusi terhadap penjumlahan, sehingga secara umum . Karena itu, skor tersebut mungkin berguna, tetapi tidak mewarisi jaminan aljabar dari perkalian dalam.
Pertanyaan 8
Model ekspansi fitur menggunakan h(x) ≈ c₀φ₀(x) + c₁φ₁(x) dengan fungsi ortogonal dari pelajaran ini. Mengapa ⟨h, φ₀⟩ mengisolasi c₀ pada contoh h = 0.6φ₀ − 0.2φ₁?
Tampilkan solusi langkah demi langkah
Gunakan linearitas pada argumen pertama:
Fungsi basisnya ortogonal, sehingga perkalian dalam kedua bernilai nol. Fungsi pertama memiliki norma satu, sehingga . Hasilnya adalah . Koefisien tersebut terisolasi karena geometri basis menghilangkan suku silang; dengan basis yang tidak ortogonal, suku kedua tetap ada dan koefisiennya akan saling terkait.