Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai penyalahgunaan kecerdasan buatan (AI) melalui teknologi deepfake menjadi tantangan etis dan keamanan digital yang perlu diantisipasi serius.

Teknologi deepfake memungkinkan pembuatan video, gambar, dan suara palsu yang sulit dibedakan dari aslinya.

>>> Menteri PPPA Usul Tambahan Anggaran Rp392 Miliar untuk 2027

"Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus," kata Nezar dalam acara Indonesia Ethical AI Summit di Jakarta, Rabu.

Menurut Nezar, perkembangan AI saat ini sangat cepat, bahkan telah melampaui fase generative AI menuju agentic AI dan teknologi baru lainnya.

Perkembangan tersebut membawa manfaat besar, tetapi juga memunculkan risiko baru yang memerlukan perhatian serius.

Dalam aspek keamanan siber, ia menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk penipuan menggunakan deepfake.

Hasil manipulasi berbasis AI kini berkembang menjadi synthetic reality, yaitu konten rekayasa digital yang semakin sulit dibedakan dari kenyataan.

Ia menilai rendahnya literasi masyarakat tentang AI membuat banyak orang mudah terkecoh oleh konten manipulasi tersebut.

"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," ujarnya.

>>> Cristiano Ronaldo Jadi Pemain Kedua yang Tampil di Enam Piala Dunia

Nezar juga mengingatkan pentingnya keterlibatan manusia dalam pengambilan keputusan (human in the loop) pada pengembangan AI otonom yang mampu mengambil keputusan secara mandiri.

Menurutnya, sejumlah pakar mengusulkan penerapan protokol yang lebih ketat agar keputusan penting tetap dalam pengawasan manusia.

"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making," jelasnya.

Ia menilai pendekatan etika AI tidak lagi cukup bersifat sukarela seperti pada tahap awal perkembangan teknologi tersebut.

Prinsip transparansi, akuntabilitas, dan keamanan harus diwujudkan secara nyata dalam pengembangan produk AI melalui pendekatan ethics by design.

Nezar mendorong pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.

>>> KPK: Korupsi Pelayanan Publik Berawal dari Hal Kecil yang Dibiasakan

"Transparansi, akuntabilitas, keamanan, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," katanya menegaskan.