Domain dan kodomain: kontrak input yang dibutuhkan setiap fungsi AI

Pelajaran 2 menjelaskan fungsi sebagai aturan yang menetapkan satu output untuk setiap input yang diizinkan. Kata diizinkan memiliki bobot yang lebih besar daripada yang tampak pada awalnya.

Pengklasifikasi teks tidak dapat menerima blok byte sembarang dengan aman ketika mengharapkan ID token. Perkalian matriks tidak dapat menerima bentuk yang tidak kompatibel. Logaritma tidak dapat menghasilkan nilai real untuk input negatif. Aturan hanyalah sebagian dari kontrak fungsi; himpunan input yang valid dan himpunan output yang dijanjikan adalah bagian lainnya.

Di akhir pelajaran ini, Anda akan mampu menuliskan fungsi bersama domain dan kodomainnya, membedakan kodomain dari nilai yang benar-benar dicapai, dan menjelaskan kegagalan input AI yang umum sebagai pelanggaran kontrak matematika.

Panah membawa informasi tipe

Deklarasi fungsi yang ringkas terlihat seperti ini:

$$f:A\to B.$$

Bacalah “$f$ memetakan dari $A$ ke $B$”.

• $A$ adalah domain, himpunan input yang diizinkan.
• $B$ adalah kodomain, himpunan tempat setiap output dijanjikan berada.
• Aturan memberi tahu kita elemen $B$ mana yang ditetapkan untuk setiap elemen $A$.

Notasi $x\in A$ berarti “$x$ adalah elemen $A$”. Notasi ini memungkinkan kita menulis kontrak dan evaluasi secara bersamaan:

$$x\in A \quad\Longrightarrow\quad f(x)\in B.$$

Alternatif teks untuk diagram pemetaan

Masukan	Valid?	Keluaran
0.1	Ya	0.18
0.5	Ya	0.50
0.9	Ya	0.82
“high”	Tidak—tipe masukan salah	Tidak dievaluasi

Input teks “high” pada diagram bukan prediksi numerik yang gagal. Input itu tidak diizinkan untuk fungsi numerik ini, jadi evaluasi tidak seharusnya dimulai.

Kodomain adalah janji, bukan daftar output yang diamati

Perhatikan fungsi kuadrat pada bilangan real:

$$q:\mathbb{R}\to\mathbb{R}, \qquad q(x)=x^2.$$

Di sini $\mathbb{R}$ berarti himpunan bilangan real. Setiap input real dapat dikuadratkan dan setiap hasilnya juga real, sehingga deklarasinya valid.

Namun $q(x)$ tidak pernah negatif. Himpunan nilai yang benar-benar dicapai fungsi adalah

$$[0,\infty)=\{y\in\mathbb{R}:y\ge 0\}.$$

Himpunan yang dicapai ini disebut image atau range. Himpunan ini dapat lebih kecil daripada kodomain yang dinyatakan.

Konsep	Untuk $q:\mathbb{R}\to\mathbb{R}$, $q(x)=x^2$
Domain	Semua bilangan real
Kodomain	Semua bilangan real
Image	Bilangan real nonnegatif

Mengubah domain dapat memperbaiki aturan yang tidak terdefinisi

Ekspresi

$$r(x)=\frac{1}{x}$$

tidak mendefinisikan output real pada $x=0$. Kita dapat menyatakan fungsi yang valid dengan mengecualikan nol:

$$r:\mathbb{R}\setminus\{0\}\to\mathbb{R}, \qquad r(x)=\frac{1}{x}.$$

Simbol $\setminus$ berarti selisih himpunan. Domainnya adalah “bilangan real tanpa nol”. Demikian pula,

$$\ell(x)=\log x$$

memiliki domain bernilai real yang dibatasi pada input positif:

$$\ell:(0,\infty)\to\mathbb{R}.$$

Ini bukan hiasan yang rewel. Notasi tersebut memberi tahu implementasi apa yang harus diperiksa sebelum evaluasi.

Domain AI mencakup bentuk dan struktur

Sejauh ini, domain tampak seperti interval angka. Input model sering berupa vektor atau matriks. Bentuknya merupakan bagian dari kontrak.

Misalkan

$$f:\mathbb{R}^3\to\mathbb{R}^2.$$

Notasi $\mathbb{R}^3$ berarti daftar berurutan berisi tiga koordinat real, dan $\mathbb{R}^2$ berarti daftar berurutan berisi dua koordinat real. Salah satu input yang valid adalah

$$x=\begin{bmatrix}0.2\\-1.0\\3.4\end{bmatrix}.$$

Vektor dengan dua koordinat berada di luar domain yang dinyatakan. Setiap elemennya boleh saja real, tetapi objeknya memiliki bentuk yang salah.

Inilah versi matematika dari kesalahan tensor yang umum:

def project_three_features(x):
    if x.shape != (3,):
        raise ValueError("expected exactly three features")
    return [x[0] + x[1], x[2] - x[1]]

Pemeriksaan tersebut melindungi domain. Fungsi mengembalikan dua angka, sesuai dengan bentuk kodomainnya.

Untuk model berbasis token, domain lengkap dapat lebih ketat lagi. Input mungkin memerlukan:

• ID token bilangan bulat, bukan nilai real sembarang;
• ID dalam rentang kosakata yang tetap;
• panjang urutan maksimum;
• bentuk batch dan mask perhatian yang saling sesuai; dan
• pengodean gambar, audio, atau teks yang diharapkan model tertentu ini.

Mengatakan “model menerima tensor” menyembunyikan batasan tersebut. Antarmuka matematika dan perangkat lunak yang baik membuatnya terlihat.

Janji output membatasi kode downstream

Misalkan sebuah pengklasifikasi dideklarasikan sebagai

$$c:\mathbb{R}^{d}\to[0,1]^K.$$

Pengklasifikasi menerima $d$ fitur real dan mengembalikan $K$ angka, masing-masing antara nol dan satu. Kodomain itu saja tidak menjamin bahwa $K$ angka tersebut berjumlah satu. Jika output yang diinginkan adalah distribusi probabilitas atas $K$ kelas yang saling eksklusif, kodomain memerlukan syarat tambahan:

$$\Delta^{K-1} = \left\{ p\in[0,1]^K: \sum_{k=1}^{K}p_k=1 \right\}.$$

Himpunan ini disebut simpleks probabilitas. Kita akan mempelajarinya nanti. Untuk saat ini, perhatikan bagaimana kodomain yang lebih kaya menyampaikan janji yang lebih kuat kepada kode downstream.

Daftar periksa untuk membaca fungsi model

Ketika menemukan pemetaan matematika baru, ajukan empat pertanyaan:

1. Objek apa yang termasuk dalam domain?
2. Objek apa yang secara eksplisit dikecualikan atau tidak terdefinisi?
3. Himpunan output apa yang dijanjikan kodomain?
4. Apakah aturan benar-benar mencapai seluruh kodomain, atau hanya image yang lebih kecil?

Pertanyaan-pertanyaan ini mengubah banyak kesalahan samar berupa “bentuk tidak cocok”, “probabilitas tidak valid”, dan “loss tidak terdefinisi” menjadi pelanggaran kontrak yang presisi. Pelajaran berikutnya akan menggunakan himpunan untuk mendeskripsikan kumpulan data dan kejadian secara lebih sistematis.

Uji pemahaman

Pertanyaan 1

Untuk q(x) = x² yang dinyatakan sebagai q: R → R, tentukan domain, kodomain, dan image.

Tampilkan solusi langkah demi langkah

Deklarasi tersebut menyatakan bahwa domainnya adalah $\mathbb{R}$ dan kodomainnya juga $\mathbb{R}$. Menguadratkan input real apa pun terdefinisi dan menghasilkan bilangan real.

Karena $x^2\ge 0$ untuk setiap real $x$, nilai yang dicapai tepat berupa bilangan real nonnegatif:

$\operatorname{image}(q)=[0,\infty).$

Jadi image adalah subset sejati dari kodomain.

Pertanyaan 2

Mengapa 0 berada di luar domain bernilai real dari r(x) = 1/x?

Tampilkan solusi langkah demi langkah

Substitusi nol meminta

$r(0)=\frac{1}{0}.$

Tidak ada bilangan real $y$ yang memenuhi $0\cdot y=1$, sehingga pembagian itu tidak memiliki nilai real. Deklarasi yang benar mengecualikan nol:

$r:\mathbb{R}\setminus\{0\}\to\mathbb{R}.$

Pertanyaan 3

Sebuah fungsi mengharapkan elemen R³. Apakah [1, 2] valid jika kedua elemennya real? Jelaskan.

Tampilkan solusi langkah demi langkah

Keanggotaan dalam $\mathbb{R}^3$ mensyaratkan tepat tiga koordinat real yang berurutan. Vektor $[1,2]$ termasuk $\mathbb{R}^2$, bukan $\mathbb{R}^3$.

Tipe nilai individualnya benar, tetapi bentuknya salah. Tipe nilai dan bentuk sama-sama merupakan bagian dari kontrak domain.

Pertanyaan 4

Sebuah pengklasifikasi mengembalikan [0.6, 0.6]. Masing-masing elemen berada dalam [0, 1]. Mengapa ini masih dapat melanggar kodomainnya?

Tampilkan solusi langkah demi langkah

Jika pengklasifikasi hanya menjanjikan $[0,1]^2$, vektor itu memenuhi kontrak yang lemah tersebut. Namun jika pengklasifikasi menjanjikan distribusi probabilitas atas dua kelas yang saling eksklusif, nilainya juga harus berjumlah satu.

Di sini, $0.6+0.6=1.2\ne1$, sehingga vektor tersebut bukan anggota simpleks probabilitas. Apakah kodomain dilanggar bergantung pada himpunan output yang sebenarnya dinyatakan.

Pertanyaan 5

Sebuah implementasi mengganti log(p) dengan log(max(p, 0.000001)). Apakah implementasi itu menghitung fungsi yang persis sama untuk setiap p real?

Tampilkan solusi langkah demi langkah

Tidak. Untuk $p\ge0.000001$, kedua ekspresi sama. Untuk $p$ positif yang lebih kecil, implementasi yang memotong nilai mengembalikan konstanta $\log(0.000001)$, bukan $\log p$. Untuk $p$ nol atau negatif, implementasi itu juga menghasilkan nilai terbatas di tempat logaritma real asli tidak terdefinisi.

Pemotongan dapat menjadi perlindungan numerik yang disengaja, tetapi mengubah fungsi di luar wilayah kesamaan. Penjelasan yang presisi harus menyatakan konvensi tersebut dan alasannya.

Sumber

1. Mathematics for Machine Learning companion website
2. Mathematics for Machine Learning book PDF