API Foundation Models Apple Menyembunyikan Tiga Batas Trust yang Berbeda

Framework Foundation Models Apple di WWDC26 menempatkan model on-device, model Private Cloud Compute, dan provider lain di balik abstraksi Swift yang sama. Ini membuat penggantian model lebih mudah. Namun, ini tidak membuat semua jalur setara.

Aturan awal yang praktis adalah: pertahankan tugas di on-device ketika model lokal melewati gate kualitasnya; gunakan Private Cloud Compute ketika konteks atau penalarannya yang lebih besar menghasilkan peningkatan terukur yang sepadan dengan ketergantungan internet dan kuota; gunakan provider lain hanya ketika kapabilitas, jangkauan, atau ekonominya mengungguli keduanya dalam trust boundary yang secara eksplisit berbeda.

Keputusan itu berada pada level tugas, bukan level aplikasi. Aplikasi jurnal dapat mengklasifikasikan entri secara lokal, mengirim permintaan perencanaan panjang ke Private Cloud Compute, dan merutekan bahasa yang tidak didukung ke provider lain. Satu label seperti “fitur AI” menyembunyikan batasan yang menentukan apakah tiap jalur bekerja.

API sesi yang sama melintasi tiga batas yang berbeda

Panduan machine learning WWDC26 Apple menjelaskan API Swift native untuk model sistem, protokol LanguageModel untuk provider lain, akses ke model yang lebih besar di Private Cloud Compute, dan framework Evaluations yang terpisah. Karena itu, structured generation dan tool calling dapat mempertahankan bentuk aplikasi yang mirip meski model di belakangnya berubah.

Bentuk operasionalnya tidak tetap sama. Sesi Private Cloud Compute Apple menyatakan model on-device bekerja secara offline dan tidak memiliki batas permintaan. Jalur server memerlukan koneksi internet, memiliki batas harian per pengguna, dan dibatasi untuk perangkat yang mampu menjalankan Apple Intelligence. Apple juga mengatakan developer harus mengajukan entitlement dan program ini tersedia bagi aplikasi dengan kurang dari dua juta first-time download.

Provider lain membawa akun, autentikasi, harga, ketersediaan regional, ketentuan retensi, dan mode kegagalannya sendiri. Ikhtisar Foundation Models Apple menyatakan provider yang sesuai dapat mendukung interface sesi yang sama, tetapi juga memperingatkan bahwa model server pihak ketiga biasanya memerlukan penanganan kredensial yang aman dan penagihan per token.

Jalur	Kecocokan awal yang kuat	Batasan yang dapat menolaknya	Bukti minimum sebelum shipping
Model sistem on-device	Tugas singkat dan terbatas; penggunaan offline; data yang seharusnya tetap di perangkat	Ketersediaan perangkat dan model, konteks, kualitas tugas, guardrail, memori, serta perilaku baterai atau termal	Evaluasi perangkat representatif, pemeriksaan ketersediaan runtime dan konteks, latensi p50/p95, penanganan kegagalan
Private Cloud Compute	Tugas yang memerlukan lebih banyak konteks atau penalaran sambil tetap berada dalam desain confidential-compute yang didokumentasikan Apple	Akses internet, entitlement dan kelayakan aplikasi, syarat perangkat Apple Intelligence, kuota per pengguna, ketersediaan layanan	Peningkatan kualitas terpisah, simulasi kuota, fallback saat jaringan gagal, tinjauan entitlement dan privasi terkini
Model lokal lain	Model khusus atau portabel yang dapat dikemas atau diunduh aplikasi secara sah	Ukuran model, lisensi, cakupan perangkat, jalur pembaruan, dan runtime yang dipelihara terpisah	Revisi model dan runtime yang tepat, matriks perangkat, pengukuran kualitas dan sumber daya, rencana rollback
Provider server lain	Kapabilitas, bahasa, ketersediaan, atau ekonomi yang tidak dipenuhi jalur Apple	Autentikasi, penggunaan yang ditagihkan, ketentuan provider, residensi dan retensi, rate limit, outage vendor	Uji kualitas/biaya tingkat tugas, tinjauan aliran data, pemeriksaan regional, perilaku retry dan kegagalan provider

Matriks ini adalah shortlist, bukan peringkat. “On-device first” hanya menjadi preferensi privasi dan ketahanan jika jalur lokal tersedia dan menyelesaikan tugas secara memadai. “Gunakan model terbesar” juga tidak lengkap ketika tugas tidak memerlukannya atau pengguna dapat mencapai batas server.

Kondisi ini diperiksa pada 26 Agustus 2026 terhadap materi WWDC26 Apple. Apple memberi label bahwa kapabilitas yang diumumkan dapat berubah dan memperingatkan bahwa sebagian layanan berbeda menurut wilayah, bahasa, dan hukum lokal. Perlakukan tabel ini sebagai desain evaluasi; verifikasi OS rilis, entitlement, daftar perangkat, kuota, dan ketentuan provider sebelum shipping.

Konteks adalah nilai runtime, bukan angka dalam brosur

Materi WWDC26 Apple sendiri menunjukkan mengapa aturan routing statis cepat usang. Perbandingan Private Cloud Compute khusus menjelaskan konteks on-device 4K dan konteks server 32K. Contoh kode pada sesi overview mencetak 8192 untuk SystemLanguageModel.contextSize, sambil menjelaskan API yang diperkenalkan di iOS 26.4 untuk memeriksa konteks dan menghitung token.

Dua halaman primer yang masih berlaku itu tidak mendukung satu angka on-device yang tak lekang waktu untuk setiap OS, model, dan perangkat. Implementasi yang aman adalah membaca ukuran konteks dari model aktual saat runtime, menghitung instruksi, prompt, transkrip, definisi tool, lampiran, serta output yang diharapkan, lalu menyisakan cadangan untuk generation dan hasil tool. Catat nilai yang diamati bersama build OS dan kelas perangkat dalam hasil evaluasi.

Angka server 32K memerlukan disiplin yang sama. Sesi Apple menyatakan reasoning menggunakan token tambahan dalam segmen transkrip terpisah, sehingga prompt yang secara nominal muat masih dapat menyisakan anggaran output yang terlalu kecil. Uji routing harus mengukur interaksi lengkap, bukan hanya teks yang terlihat oleh pengguna.

Ini adalah pelajaran kapasitas yang sama seperti deployment open-weight lokal. Analisis deployment Qwen 16GB kami menunjukkan mengapa konteks yang diiklankan model dan konteks yang dapat digunakan dalam anggaran memori nyata merupakan dua klaim berbeda.

Privasi berubah ketika komputasi meninggalkan perangkat

Eksekusi on-device memberi batas fisik paling jelas dalam perbandingan ini: model dapat berjalan tanpa mengirim prompt ke server. Namun, itu tidak otomatis menyelesaikan semua pertanyaan privasi. Aplikasi masih dapat mencatat input, memanggil tool jaringan, menyinkronkan hasil, atau mengekspos teks sensitif melalui analytics. Uji aliran data seluruh fitur.

Private Cloud Compute adalah jalur remote dengan argumen keamanan yang berbeda. Apple mengatakan permintaan tidak disimpan dan peneliti dapat memverifikasi software yang di-deploy. Pembaruan keamanan 2026 Apple mengatakan sistem tersebut kini meluas ke infrastruktur Google Cloud yang menggunakan hardware NVIDIA sambil mempertahankan perlindungan dan mekanisme transparansi PCC milik Apple.

Bukti independen lebih sempit daripada dukungan privasi yang menyeluruh. Analisis WiSec 2026 (bahasa Inggris) mereverse-engineer interface klien dan secara independen melakukan benchmark pada model PCC, tetapi penulisnya juga mencatat bahwa binary terkompilasi tidak dapat direproduksi dan model serta interface query yang mendasarinya tidak dapat diakses secara terbuka. Studi itu mendukung klaim bahwa PCC dapat diperiksa dari luar Apple; studi itu juga menunjukkan mengapa confidential compute remote tidak boleh digambarkan identik dengan menyimpan data di perangkat pengguna.

Untuk provider server lain, dokumentasikan tepatnya field prompt mana yang melewati batas, di mana pemrosesan berlangsung, apa yang disimpan, subprocessors mana yang terlibat, dan bagaimana autentikasi ditangani. Jangan biarkan LanguageModelSession yang sama menghapus perbedaan itu dari copy produk atau desain consent.

Fitur lebih penting daripada keluarga model

Laporan riset model Apple 2025 menggambarkan model on-device sekitar tiga miliar parameter sebagai model yang sesuai untuk tugas seperti summarization, extraction, refinement, dialog singkat, dan tool use—bukan chatbot pengetahuan dunia umum. WWDC26 kemudian mengumumkan model on-device yang dibangun ulang dengan modalitas baru dan perilaku tool yang lebih kuat. Benchmark atau intuisi dari model sebelumnya tidak dapat menentukan apakah jalur baru bekerja untuk aplikasi tertentu.

Gunakan set evaluasi tetap yang diambil dari input nyata fitur tersebut. Untuk aplikasi catatan perjalanan fiktif, set itu dapat mencakup klasifikasi catatan singkat, ringkasan itinerary 20 halaman, tanggal ambigu, penggunaan offline, tool call yang membaca kalender lokal, perangkat yang tidak didukung, kuota server yang hampir habis, dan outage provider. Pertahankan perilaku yang diharapkan dan kegagalan yang tidak dapat diterima tetap sama di semua jalur.

Pengukuran	Catat untuk setiap jalur	Mengapa dapat mengubah jalur
Hasil tugas	Lulus/gagal, skor rubrik, koreksi manusia, klaim yang tidak didukung	Hasil yang lebih cepat atau privat tidak berguna jika gagal mengerjakan tugas
Output terstruktur	Tingkat validasi schema dan kesalahan field semantik	Tipe Swift yang valid masih dapat berisi nilai yang salah
Perilaku tool	Tool yang tepat, argumen, panggilan yang ditolak, retry, side effect	Keandalan dan risiko tool dapat berbeda menurut model meski berada di balik satu protokol
Konteks	Batas runtime, token input, token reasoning, token output, truncation	Menentukan apakah interaksi lengkap dapat dimuat
Latensi	Waktu menuju hasil berguna pertama serta waktu penyelesaian p50 dan p95	Memisahkan demo yang mulus dari tail latency yang dialami pengguna
Ketersediaan	Perangkat, build OS, status model, status jaringan, entitlement, kuota	Menunjukkan siapa yang dapat menggunakan jalur dan seberapa sering ia fallback
Sumber daya atau biaya	Observasi baterai/termal, token yang ditagihkan, biaya operator	Membuat klaim “gratis” dan “lokal” terukur, bukan retoris
Batas privasi	Field data yang dikirim, tujuan, dasar retensi, pengungkapan kepada pengguna	Mencegah penggantian implementasi diam-diam mengubah trust model

Penjelasan evaluasi AI membahas mengapa metrik harus cocok dengan keputusan produk. Bake-off Sentence Transformers (bahasa Indonesia) memberikan contoh kedua tentang membekukan input dan anggaran sebelum membandingkan sistem yang secara teknis berbeda.

Laporan praktisi berguna untuk menemukan kasus kegagalan, bukan memperkirakan prevalensi. Dalam satu diskusi developer iOS (bahasa Inggris), developer menggambarkan pengujian perangkat fisik, tekanan konteks, masalah output terstruktur, dan fallback cloud. Observasi itu bukan benchmark representatif. Namun, observasi tersebut merupakan prompt yang baik untuk fixture yang dapat direproduksi tim aplikasi pada perangkat yang mereka dukung.

Fallback mengubah janji privasi produk

Sesi PCC Apple menyarankan pemeriksaan ketersediaan dan pengujian status kuota. Ini mengubah fallback dari exception handler menjadi perilaku yang dihadapi pengguna. Tentukan apa yang terjadi ketika model lokal tidak tersedia, prompt melampaui anggaran runtime, PCC tidak memiliki koneksi atau mencapai batasnya, dan provider eksternal menolak atau timeout.

Fallback yang aman tidak selalu berarti mengirim prompt secara diam-diam ke tempat lain. Jika fitur menjanjikan pemrosesan on-device, melewati batas jaringan memerlukan disclosure yang akurat dan, jika sesuai, pilihan pengguna. Untuk fitur yang tidak esensial, hasil lokal yang lebih kecil atau status “tidak tersedia secara offline” yang jelas mungkin lebih baik daripada eskalasi yang tidak terlihat.

Protokol umum tetap bernilai. Tim dapat mempertahankan output terstruktur, definisi tool, dan sebagian besar kode sesi sambil menguji beberapa jalur. Keuntungan engineering-nya adalah eksperimen yang lebih murah dan kode fallback yang lebih jelas—bukan bukti bahwa semua jalur menawarkan kualitas model, privasi, jangkauan, atau biaya yang sama.

Karena itu, framework Apple memudahkan implementasi model routing tepat ketika keputusan routing menjadi lebih penting. API umum mengurangi pekerjaan integrasi, tetapi tidak dapat membuat eksekusi on-device, Private Cloud Compute, dan provider eksternal setara dalam kualitas, privasi, jangkauan, atau biaya.

Sumber

1. Apple WWDC26 machine learning guide
2. Apple WWDC26: What is new in the Foundation Models framework
3. Apple WWDC26: Build with the new Apple Foundation Model on Private Cloud Compute
4. Apple research update on on-device and server foundation models
5. Apple Security Research: Expanding Private Cloud Compute
6. Unlocking Apple Private Cloud Compute: independent security and model analysis
7. Practitioner discussion of Foundation Models deployment constraints