Perusahaan induk Facebook, Meta, kembali menghadapi sorotan tajam terkait peredaran video kekerasan terhadap anak yang dihasilkan oleh kecerdasan buatan.

Sejumlah akun terdeteksi mengunggah klip mengerikan ke platform tersebut tanpa tindakan pencegahan yang memadai dari sistem moderasi.

Konten Kekerasan Ekstrem

Berbagai video yang beredar menampilkan adegan penganiayaan fisik yang sangat mengganggu.

Beberapa materi visual bahkan memperlihatkan adegan ekstrem seperti seorang bayi di dalam oven.

Ribuan konten serupa dilaporkan masih dapat diakses publik meskipun laporan telah dikirimkan kepada pihak pengelola.

Respons Perusahaan

Pihak Meta memberikan tanggapan terbatas ketika dikonfirmasi mengenai keberadaan akun-akun bermasalah tersebut.

Banyak pihak menilai raksasa teknologi ini belum memaksimalkan sumber daya yang ada untuk mengatasi masalah konten berbahaya secara proaktif.

Penggunaan Sumber Daya Meta

Meskipun memiliki anggaran besar untuk pengembangan kecerdasan buatan, Meta dinilai gagal mengerahkan sumber daya tersebut untuk membersihkan platformnya dari konten penyiksaan anak.

Keterangan teks yang menyertai unggahan tersebut sebenarnya sangat detail menggambarkan adegan kekerasan, yang seharusnya memudahkan sistem untuk mendeteksinya secara otomatis.

Selain kekerasan fisik terhadap anak, masalah moderasi konten di platform Meta juga mencakup iklan-iklan bermuatan seksual yang melibatkan anak-anak di bawah umur.

Berbagai pihak menilai perusahaan kini tampak mengabaikan sistem pengawasan konten secara keseluruhan.