Masyarakat perlu memahami bahwa foto, suara, maupun video yang beredar di ruang digital tidak selalu mencerminkan kondisi sebenarnya.

Penerapan Protokol Ketat untuk Agentic AI

Selain ancaman penipuan digital, Nezar juga menyoroti perkembangan agentic AI yang memiliki kemampuan menjalankan tugas dan mengambil keputusan secara lebih mandiri dibandingkan generasi AI sebelumnya.

Berbagai kalangan akademisi dan pakar teknologi telah mengusulkan penerapan protokol yang lebih ketat untuk memastikan keputusan penting tetap berada dalam kendali manusia.

"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making," jelas Nezar.

Prinsip human in the loop mengharuskan adanya keterlibatan manusia dalam proses pengawasan dan pengambilan keputusan akhir, terutama untuk keputusan yang berdampak besar terhadap individu maupun masyarakat.

Nezar menjelaskan pembahasan etika AI saat ini tidak lagi cukup dilakukan secara sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut.

Ia menilai prinsip-prinsip seperti transparansi, akuntabilitas, keamanan, dan perlindungan pengguna harus menjadi bagian yang melekat sejak tahap perancangan teknologi melalui pendekatan ethics by design.

"Transparency, accountability, safety, itu harus hadir di dalam implementation, di dalam pengembangan satu produk AI," tegas Nezar.

Untuk itu, pemerintah mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, dan komunitas pengguna AI dalam memperkuat tata kelola serta mitigasi risiko sejak tahap awal pengembangan.

>>> Pemkot Jakbar Gelar Donor Darah Sambut HUT ke-499 Jakarta

"Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia," pungkas Nezar.