NVIDIA telah mengoptimalkan DiffusionGemma di seluruh ekosistem perangkat kerasnya, termasuk GPU GeForce RTX, workstation RTX PRO, sistem DGX Spark, dan platform DGX Station.

Perusahaan mengatakan model ini dapat berjalan sepenuhnya pada sistem RTX dan DGX yang didukung tanpa bergantung pada inferensi cloud atau biaya API per token.

Platform yang didukung meliputi NVIDIA DGX Spark dengan Superchip NVIDIA GB10 Grace Blackwell dan memori terpadu 128GB, NVIDIA RTX PRO 6000 untuk pengembang dan peneliti, NVIDIA DGX Station yang memberikan hingga 2.000 token per detik dengan memori koheren 748GB, serta GPU GeForce RTX dengan dukungan llama.

cpp resmi yang direncanakan dalam pembaruan mendatang.

Google mengatakan bekerja sama erat dengan NVIDIA untuk mengoptimalkan model di seluruh perangkat keras konsumen dan enterprise, termasuk dukungan untuk deployment terkuantisasi pada GPU GeForce RTX 4090 dan RTX 5090, serta sistem Hopper dan Blackwell menggunakan kernel NVFP4 (floating-point 4-bit) canggih.

Ketersediaan dan Ekosistem Pengembang

DiffusionGemma tersedia sekarang sebagai open weights eksperimental di bawah lisensi Apache 2.0.

Model ini diluncurkan dengan dukungan hari pertama di berbagai kerangka kerja AI dan alat pengembang, termasuk Hugging Face Transformers, vLLM, MLX, NVIDIA NIM, dan deployment vLLM terintegrasi Red Hat.

Alat fine-tuning yang didukung meliputi Unsloth, NVIDIA NeMo, dan Hackable Diffusion, sebuah toolbox JAX modular untuk eksperimen yang dapat dikomposisi.

Google juga menyediakan DiffusionGemma Developer Guide, A Visual Guide to DiffusionGemma, dan playbook deployment untuk DGX Spark, RTX PRO, dan DGX Station.

Pengembang dapat mengunduh open weights dari Hugging Face, menguji model melalui API yang dihosting NVIDIA, menggunakan NVIDIA NIM, atau mengakses melalui Gemini Enterprise Agent Platform Model Garden.

>>> IHSG Ditutup Melemah, Seluruh Sektor Saham Terkoreksi

Dukungan llama. cpp resmi direncanakan untuk rilis mendatang.