Wakil Menteri Komunikasi dan Digital Nezar Patria menyoroti peningkatan risiko penipuan digital yang semakin kompleks akibat pemanfaatan kecerdasan artifisial (AI) oleh pelaku kejahatan siber.

Menurutnya, perkembangan AI kini memicu kemunculan realitas sintetik yang membuat masyarakat awam kesulitan membedakan konten asli dengan rekayasa.

>>> Airlangga Minta Bank BUMN Tahan Kenaikan Suku Bunga Kredit

Modus penipuan online atau scam tersebut memanfaatkan teknologi deepfake yang mampu meniru wajah, suara, hingga video target dengan tingkat kemiripan sangat tinggi demi memalsukan identitas korban.

"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," kata Nezar Patria.

Pentingnya Literasi Digital dan Tata Kelola AI

Peningkatan literasi digital dinilai menjadi langkah krusial agar publik menyadari bahwa materi digital yang beredar tidak selalu mencerminkan fakta di lapangan.

Di sisi lain, lompatan teknologi dari generative AI menuju agentic AI membawa kekhawatiran baru karena sistem ini mampu menalar dan mengambil keputusan secara mandiri.

"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making," jelas Nezar.

>>> Airlangga Minta Bank Himbara Tahan Kenaikan Suku Bunga Kredit

Keterlibatan pengawasan manusia dalam porsi besar dinilai krusial untuk keputusan yang berdampak luas bagi publik.

Langkah ini perlu diperkuat dengan penerapan etika transparansi, akuntabilitas, dan keamanan sejak awal perancangan sistem.

"Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam mengembangkan satu produk AI," tegas Nezar.

Pemerintah kini terus mendorong kolaborasi lintas sektor antara akademisi, pengembang, industri, dan pengguna dalam merumuskan tata kelola teknologi tersebut.

>>> Dominasi Riset Universitas AS Mulai Tergerus di QS Rankings 2027

"Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia," pungkas Nezar.