CEO Meta Mark Zuckerberg menunjukkan dua unit Mac Studio berprosesor M5 Ultra di meja kerjanya.

Perangkat tersebut dipakai untuk menjalankan Muse Spark Open yang merupakan model AI terbaru Meta dengan 816 miliar parameter.

Kolaborasi Meta dan Apple untuk AI

Melalui unggahan di platform X, Zuckerberg menyebutkan bahwa model AI itu berjalan optimal berkat kerja sama dengan pihak Apple.

Petinggi Apple John Ternus memberikan balasan dengan mengapresiasi pencapaian dalam menjalankan model AI skala besar secara on-device.

Model Muse Spark Open memanfaatkan arsitektur mixture of experts yang hanya mengaktifkan 42 miliar parameter saat memproses token.

Sistem ini mendemonstrasikan kapabilitas context window hingga 1 juta token secara multimodal.

Spesifikasi Perangkat Superkomputer

Dibutuhkan dua unit Mac Studio dengan chip M5 Ultra dan 512 GB unified memory pada masing-masing perangkat.

Gabungan perangkat tersebut bekerja layaknya satu superkomputer dengan kapasitas memori terpadu sebesar 1 terabyte.

Kini, model AI tersebut sudah dapat diunduh melalui Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden, serta Microsoft Foundry Models.