Wakil Menteri Komunikasi dan Digital Nezar Patria menyoroti potensi risiko dari penggunaan Agentic Artificial Intelligence.

Sistem tersebut mampu menjalankan tindakan secara mandiri tanpa memerlukan keterlibatan langsung dari manusia.

Kemampuan itu membuat batas otoritas yang diberikan kepada kecerdasan buatan harus dirancang secara jelas.

Agentic AI kini tidak sekadar menghasilkan respons berdasarkan perintah melainkan membangun penalaran hingga keputusan.

Sistem dapat berpikir dan menentukan tindakan tanpa diketahui secara pasti oleh pengguna di dalam prosesnya.

Nezar menyampaikan hal tersebut dalam acara Techpresso Metro TV di Jakarta Barat.

Contoh penerapannya terlihat pada asisten perjalanan yang bisa memilih tiket sampai melakukan pembayaran.

Otoritas semacam ini menghadirkan efisiensi sekaligus risiko ketika berdampak langsung kepada pengguna.

Kompleksitas meningkat saat satu sistem Agentic AI berkomunikasi dengan sistem lain secara otonom.

Kondisi tersebut dinamakan silent autonomy karena keputusan diambil tanpa keterlibatan penuh manusia.

Pemerintah menerapkan pendekatan berbasis risiko untuk menjaga keseimbangan antara inovasi dan perlindungan.

Prinsip human centric dan human in the loop menjadi landasan penting dalam tata kelola teknologi ini.

Ancaman keamanan seperti prompt injection dan data poisoning juga perlu diantisipasi secara serius.

Indonesia menyiapkan kerangka tata kelola melalui regulasi etika, UU ITE, serta UU Pelindungan Data Pribadi.