Tag

#quantization

2artikeldengan tag ini.

Hasil AI On-Device Pipette adalah Uji Deployment, Bukan Peringkat Chip

Pipette menerbitkan hasil latensi, throughput, memori, dan kualitas pada banyak konfigurasi, tetapi ponsel, runtime, dan kuantisasi yang berbeda bukanlah satu peringkat yang benar-benar sebanding.

29 Agustus 20267 menit baca

Berita AIRilis Model

Qwen3.8-27B Bisa Berjalan di 16GB, tetapi Pengalaman Model Lengkap Tidak Bisa

Kuantisasi ringkas Qwen3.8-27B dapat berjalan pada GPU 16GB, sementara konteks panjang, visi, konkurensi, dan memori runtime membuat judul tersebut tidak lengkap.

18 Agustus 202612 menit baca