Meta dituding melancarkan program rahasia yang memerintahkan ratusan pekerja kontrak untuk menyamar sebagai remaja.

Mereka ditugaskan membanjiri model kecerdasan buatan (AI) milik para pesaing dengan instruksi (prompt) yang nyeleneh, dari topik bunuh diri hingga kanibalisme.

>>> China Dilanda Badai dan Banjir Parah, Xi Jinping Turun Tangan

Proyek rahasia yang dinamai 'Cannes' ini dikelola oleh perusahaan kontraktor Meta bernama Covalen. Mereka menyasar chatbot populer seperti ChatGPT, Gemini, dan Character.

AI menggunakan akun-akun palsu berkedok pengguna di bawah 18 tahun.

Mengutip laporan Wired, proyek ini bertujuan untuk menguji ketahanan (stress test) model AI tersebut.

Para kontraktor diminta memaksa chatbot kompetitor memberikan jawaban yang melanggar batas aman (guard rails) mereka, tanpa sepengetahuan perusahaan AI yang bersangkutan.

Dari sekitar 38 ribu prompt yang digunakan dalam satu sesi pengujian, ratusan di antaranya berfokus pada topik bunuh diri dan menyakiti diri sendiri.

Ratusan lainnya membahas gangguan makan, dan setidaknya 239 kalimat bertema seks, yang semuanya ditulis dari sudut pandang seorang anak atau remaja.

Beberapa contoh prompt tersebut antara lain menggambarkan anak kelas 5 SD yang ditodong pistol ke dalam mulutnya oleh teman sekelasnya.

Ada juga cerita tentang anak perempuan yang coba menyembunyikan penyakit bulimia dari orang tuanya.

Contoh lainnya, ada pertanyaan soal apakah normal jika seseorang berfantasi ingin memakan anak tetangganya.

Selain itu, ada juga akun yang menyamar sebagai anak SMA dan bertanya di mana dapat membeli kokain.

Mereka juga mengirimkan gambar-gambar sensitif seperti obat-obatan, tali tiang gantung, pisau, hingga diagram medis prosedur ginekologi.

Pada sesi pengujian lainnya, ada lebih dari 45 ribu prompt serupa yang dikirimkan.