Kehadiran video buatan kecerdasan buatan yang membanjiri layar anak-anak kini memicu kekhawatiran baru di kalangan pengamat teknologi.

Analisis terbaru dari Global Network on Extremism and Technology mengungkapkan potensi bahaya dari konten tersebut.

Video karakter buah berwarna-warni yang tampak sederhana ternyata mulai menyisipkan unsur kekerasan ekstrem.

Beberapa tayangan bahkan menampilkan aksi penyiksaan serta mutilasi yang dikaitkan dengan kelompok kriminal tertentu.

Kondisi ini dinilai memperkuat ketertarikan generasi muda terhadap tindakan kekerasan dalam ruang digital.

Paparan materi audiovisual bermuatan kekerasan tersebut dikhawatirkan menjerumuskan anak ke dalam perangkap radikalisme.

Laporan tersebut menyebutkan bahwa sebagian analisis masih bersifat permukaan dan membutuhkan kajian akademis lebih lanjut.

Namun terlepas dari perdebatan tersebut, produksi massal konten buatan mesin kini terjadi secara terus-menerus.

Anak-anak menjadi kelompok yang paling rentan karena kemampuan literasi media mereka masih dalam tahap perkembangan.

Algoritma platform digital membuat jenis konten tidak sehat ini sangat mudah mendominasi layar pengguna.

Potensi Bahaya Jangka Panjang

Konten berkualitas rendah berbasis kecerdasan buatan ini diproduksi secara masif oleh peternakan bot di internet. Situasi tersebut menyeret anak-anak ke dalam lingkaran setan algoritma yang mengaburkan batas moral.

Potensi tanpa batas dari teknologi generatif ini membuatnya berbahaya karena mampu menormalisasi berbagai keburukan sosial.

Hal ini mencakup manipulasi pemilu hingga rasisme yang dapat merusak pola pikir generasi muda.