Setelah memasang PocketPal, pengguna menekan Download Model di layar utama. Akan terlihat model yang tersedia beserta ukuran, jumlah parameter, dan kemampuannya.

Pilih satu model untuk melihat informasi lebih detail, lalu tekan Download untuk menyimpannya ke ponsel.

Setelah unduhan selesai, tekan Load pada kartu model untuk memuatnya ke memori dan mulai mengobrol.

Model yang dipilih adalah Gemma 3 1B. Untuk menambah model lain, buka menu hamburger, pilih Models, dan gunakan opsi menambahkan model.

PocketPal menyediakan beberapa cara, yaitu Add from Hugging Face, Add local model, atau Add remote model.

Setelah Gemma 3 1B terunduh, percakapan bisa dimulai di PocketPal.

Responsnya terasa lebih lambat dibandingkan AI berbasis cloud, tetapi itu konsekuensi yang sudah diperkirakan dari menjalankan model di ponsel.

PocketPal menggunakan llama. cpp untuk menjalankan model GGUF secara lokal, memanfaatkan CPU, GPU, atau perangkat NPU yang didukung ponsel.

Dari layar obrolan, ikon panah di kotak teks bisa ditekan untuk berpindah antar-model. Menu yang sama memberi akses ke Pals, yaitu kepribadian AI yang sudah dikonfigurasi sebelumnya.

Pengguna bisa beralih ke Pip, asisten serbaguna yang dirancang berjalan lokal, atau mencoba Lookie yang lebih tidak biasa karena dapat menganalisis video dari kamera ponsel.

Lookie dirancang untuk analisis video real-time di perangkat. Namun, performanya bergantung pada model dan ponsel yang digunakan.

PocketPal juga memungkinkan penambahan suara, sehingga tidak terbatas pada mengetik dan membaca respons. Opsi suaranya mencakup Kitten, Kokoro, Supertonic, dan suara sistem ponsel.

Daya tarik terbesar bagi sebagian pengguna adalah privasi.