Google Rilis DiffusionGemma, Model AI Open Source dengan Generasi Teks 4x Lebih Cepat
Angka kinerja yang dibagikan Google dan NVIDIA mencakup lebih dari 1.000 token per detik pada satu GPU NVIDIA H100, lebih dari 700 token per detik pada NVIDIA GeForce RTX 5090, sekitar 150 token per detik pada NVIDIA DGX Spark, hingga 2.000 token per detik pada NVIDIA DGX Station.
Secara keseluruhan, model ini menawarkan generasi teks hingga 4 kali lebih cepat dibandingkan model autoregresif yang sebanding dalam skenario inferensi lokal.
Google mencatat bahwa keuntungan ini terutama dirancang untuk inferensi lokal dengan konkurensi rendah.
Di lingkungan cloud dengan QPS tinggi, model autoregresif dapat memanfaatkan perangkat keras secara efisien melalui batching, yang dapat mengurangi keunggulan decoding paralel berbasis difusi dan berpotensi meningkatkan biaya serving.
Keunggulan throughput paling kuat pada ukuran batch rendah hingga menengah di satu akselerator.
Fine-tuning dan Kasus Penggunaan
Google mengatakan DiffusionGemma dapat di-fine-tune untuk beban kerja domain spesifik.
Sebagai contoh, Unsloth melakukan fine-tuning model ini untuk memecahkan teka-teki Sudoku, tugas yang menantang bagi model autoregresif karena prediksi sering bergantung pada token masa depan.
Perusahaan mengharapkan model ini berguna untuk chat interaktif, asisten AI lokal, loop agen, asisten perangkat yang dapat merencanakan dan bertindak, iterasi konten cepat, pengeditan inline, dan aplikasi AI sensitif latensi lainnya.
Meskipun DiffusionGemma mengutamakan kecepatan dan generasi paralel, Google mencatat bahwa kualitas output keseluruhannya masih lebih rendah dibandingkan model Gemma 4 standar.
Untuk aplikasi yang membutuhkan output produksi berkualitas tertinggi, perusahaan merekomendasikan menggunakan model Gemma 4 standar.
Optimasi NVIDIA dan Dukungan Platform
Update Terbaru
The Batman 2 Tertunda Membuat Robert Pattinson Terlepas dari Kontrak Film Ketiga
Rabu / 18-11-2026, 03:07 WIB
Scarlet Witch Layak Dapatkan Film Sendiri Setelah Kembalinya Wanda di Doomsday
Rabu / 18-11-2026, 03:07 WIB
Sam Altman Tegaskan Setiap Orang Bebas Beli Banyak RAM untuk Komputer
Rabu / 18-11-2026, 03:07 WIB
Bentley Rilis Continental GT Olympia Collection Edisi Terbatas
Rabu / 18-11-2026, 03:00 WIB
Rapor Merah Pochettino Hadapi Liverpool Bikin Skuad Manchester United Cemas
Rabu / 18-11-2026, 03:00 WIB
Menikmati Keindahan Berbagai Destinasi Wisata Bantul Selain Pantai
Rabu / 18-11-2026, 02:56 WIB
Persija Main Tanpa Suporter, Shin Tae Yong Minta Evaluasi
Rabu / 18-11-2026, 02:56 WIB
Pengakuan Silmy Karim di Pengadilan Terkait Pungutan Liar Izin Tinggal WNA
Rabu / 18-11-2026, 02:56 WIB
Optimisme Hakim Danish Sambut Balapan Moto3 Portugal Pekan Ini
Rabu / 18-11-2026, 02:56 WIB
Robert Pattinson Menjadi Pilihan Sempurna untuk Era Baru 007
Rabu / 18-11-2026, 02:49 WIB
Trailer Perdana 3 Body Problem Season 2 Ungkap Konflik Kosmik Epik
Rabu / 18-11-2026, 02:49 WIB
Aktor RPG Exodus Rasakan Beban Warisan Pengembang Eks BioWare
Rabu / 18-11-2026, 02:49 WIB
Fadia Tiwi Menang Dua Gim di Babak Pertama Hong Kong Open 2026
Rabu / 18-11-2026, 02:49 WIB
Rejuran Healer dan Rejuran i: Ketahui Perbedaan Sasaran Kulit Wajah
Rabu / 18-11-2026, 02:42 WIB






