Notasi Himpunan untuk Dataset AI: Keanggotaan, Pembagian, dan Kebocoran

Misalkan sebuah pengklasifikasi gambar mencetak 96% pada data validasinya. Kemudian seseorang menyadari bahwa img-04 digunakan untuk pelatihan dan validasi. Skor itu mungkin tampak presisi, tetapi salah satu contohnya tidak lagi benar-benar belum pernah dilihat.

Himpunan memberi kita cara ringkas untuk menyatakan dan menguji kegagalan tersebut. Himpunan mencatat objek mana yang termasuk dalam sebuah koleksi. Dari sana, irisan menyingkap tumpang tindih, gabungan memeriksa cakupan, dan partisi menjelaskan penempatan bersih setiap contoh ke tepat satu pembagian dataset.

Di akhir pelajaran ini, Anda akan mampu membaca notasi keanggotaan dan pembentuk-himpunan, menghitung operasi himpunan umum, dan mengimplementasikan audit awal untuk ID pelatihan, validasi, dan pengujian. Ini melanjutkan sisi data dari gambaran variabel, model, dan pembelajaran yang diperkenalkan di Pelajaran 1.

Keanggotaan mengubah koleksi menjadi klaim ya-atau-tidak

Himpunan adalah koleksi yang keanggotaannya tidak ambigu. Jika $D$ adalah himpunan semua ID contoh dalam dataset kecil, kita dapat menulis

Kurung kurawal berarti “himpunan yang berisi elemen-elemen ini”. Pernyataan

dibaca “img-02 adalah elemen $D$”. Simbol $\notin$ menyangkal klaim itu, sehingga $\text{img-09}\notin D$.

Jumlah elemen berbeda dalam himpunan berhingga disebut kardinalitas, ditulis $|D|$. Pada contoh di atas, $|D|=4$.

Notasi pembentuk-himpunan menjelaskan aturan, bukan daftar panjang

Mencantumkan setiap elemen menjadi tidak praktis untuk dataset nyata. Notasi pembentuk-himpunan mendefinisikan keanggotaan melalui kondisi:

Bacalah dari kiri ke kanan: “$D_{\text{cat}}$ adalah himpunan contoh $x$ di $D$ sedemikian sehingga label $x$ adalah cat.” Titik dua berarti “sedemikian sehingga”. Garis vertikal $|$ juga umum digunakan pada posisi yang sama.

Kondisi setelah titik dua bertindak seperti filter. Untuk

jika img-01 dan img-04 memiliki label cat, maka

$D_{\text{cat}}=\{\text{img-01},\text{img-04}\}.$

Notasi ini memisahkan semesta yang dipertimbangkan—di sini $D$—dari aturan keanggotaan. Tanpa $x\in D$, “semua gambar kucing” dapat berarti setiap gambar kucing yang ada, bukan hanya contoh yang tersedia untuk proyek ini.

Tiga operasi mengaudit pembagian dataset

Misalkan $T$, $V$, dan $E$ menyatakan himpunan ID pelatihan, validasi, dan pengujian. Tiga operasi menjawab pertanyaan rekayasa yang berbeda.

Himpunan kosong, ditulis $\varnothing$, tidak berisi elemen. Karena itu, $T\cap V=\varnothing$ menyatakan bahwa pelatihan dan validasi tidak berbagi ID. Himpunan seperti itu disebut saling lepas.

Pembagian yang bersih adalah partisi

Misalkan dataset lengkap adalah $D$. Set pelatihan, validasi, dan pengujian membentuk partisi dari $D$ jika dua syarat terpenuhi.

Pertama, gabungannya mencakup seluruh dataset:

$T\cup V\cup E=D.$

Kedua, setiap pasangan saling lepas:

Cakupan mencegah contoh menghilang. Saling lepas berpasangan mencegah contoh menempati dua pembagian. Bersama-sama, keduanya menyatakan bahwa setiap elemen $D$ termasuk tepat dalam satu bagian.

Keadaan awal mencakup ketujuh ID, tetapi gagal dalam uji partisi karena img-04 termasuk dalam $T$ dan $V$. Hapus salah satu dari dua keanggotaan itu untuk menghasilkan partisi valid. Lalu coba biarkan satu ID tidak dicentang di mana pun: tumpang tindih hilang, tetapi syarat cakupan gagal.

Set Python mencerminkan audit ini

Dokumentasi resmi Python mendefinisikan tipe set sebagai koleksi tak berurutan berisi objek hashable yang berbeda. Tipe ini mendukung operasi gabungan, irisan, selisih, keanggotaan, dan saling lepas yang sama seperti di atas.

all_ids = {f"img-{i:02d}" for i in range(1, 8)}
train_ids = {"img-01", "img-02", "img-03", "img-04"}
validation_ids = {"img-04", "img-05"}
test_ids = {"img-06", "img-07"}

overlap = (
    (train_ids & validation_ids)
    | (train_ids & test_ids)
    | (validation_ids & test_ids)
)
covered = train_ids | validation_ids | test_ids
missing = all_ids - covered

is_partition = not overlap and not missing and covered == all_ids

print(sorted(overlap))
print(sorted(missing))
print(is_partition)

Output yang telah diverifikasi adalah:

['img-04']
[]
False

Operator & menghitung irisan, | menghitung gabungan, dan - menghitung selisih. not overlap hanya benar ketika himpunan tumpang tindih kosong.

Untuk pemeriksaan yang dapat digunakan kembali, nyatakan kondisinya secara eksplisit:

def is_partition(universe, *parts):
    covered = set().union(*parts)
    total_memberships = sum(len(part) for part in parts)
    no_overlap = total_memberships == len(covered)
    return no_overlap and covered == universe

Jika satu ID muncul di dua bagian, jumlah ukuran terpisah melebihi ukuran gabungannya. Jika satu ID hilang, gabungannya berbeda dari semesta.

ID yang saling lepas diperlukan, tetapi belum cukup untuk keamanan dari kebocoran

Tumpang tindih di awal adalah bentuk kebocoran data: informasi dari luar batas pelatihan memengaruhi pembangunan atau evaluasi model. Panduan kebocoran Scikit-learn menjelaskan bahwa kebocoran dapat membuat evaluasi tampak terlalu optimistis dan merekomendasikan pemisahan data sebelum menyesuaikan langkah prapemrosesan.

Irisan ID kosong hanya menangkap penggunaan ulang pengenal yang persis sama. Itu tidak membuktikan bahwa set evaluasi benar-benar independen. Dua ID berbeda dapat menunjuk salinan foto yang diubah ukurannya. Frame dari satu video dapat dibagi antara pelatihan dan validasi. Rekaman pasien, pelanggan, atau periode waktu mendatang yang sama dapat membawa informasi bersama meskipun ID barisnya berbeda.

Ada batas lain antara matematika dan implementasi: set Python tidak mempertahankan posisi urutan dan membuang nilai duplikat. Simpan daftar sampel berurutan untuk pelatihan. Turunkan himpunan ID stabil untuk pemeriksaan keanggotaan.

Pelajaran 5 akan menambahkan indeks dan subskrip, sehingga kita dapat membedakan identitas contoh dari posisinya dalam batch atau tensor. Pembedaan itu lebih mudah dinyatakan setelah dataset memiliki batas keanggotaan yang jelas.

Uji pemahaman

no_overlap = not (
    (train & validation)
    or (train & test)
    or (validation & test)
)
covered = (train | validation | test) == all_ids
return no_overlap and covered