Para kontraktor mencatat setiap respons dari chatbot tersebut secara mendetail ke dalam spreadsheet. Namun demikian, belum jelas apa yang sebenarnya dilakukan Meta dengan tumpukan data tersebut.

>>> Rukia Bankai di Serial Bleach dan Fakta-Fakta Menariknya

Dokumen internal Covalen hanya menyebut proyek ini sebagai 'tolok ukur keamanan AI yang komprehensif' untuk menghasilkan 'kumpulan data krusial demi kepatuhan dan perbandingan model'.

Bikin Pekerja Trauma

Kasus ini menambah panjang daftar bagaimana Meta melimpahkan pekerjaan di balik layar yang traumatis kepada pihak ketiga dengan dalih 'keamanan'.

Sebelumnya pada 2020, Meta sempat merampungkan gugatan hukum dengan para moderator konten Facebook yang mengaku trauma setelah dipaksa menonton video pembunuhan, penyiksaan, dan pelecehan.

Belum lagi kasus pekerja kontrak yang mengeluh dipaksa memeriksa rekaman sensitif dari kacamata pintar Ray-Ban AI Meta.

Para pekerja yang ditugaskan membuat prompt mengerikan untuk AI pesaing ini mengaku trauma.

"Selama kerja di sini, saya sudah melihat banyak hal yang harusnya tidak perlu saya lihat," kata salah seorang kontraktor, melansir Futurism, Sabtu (4/7).

"Semua orang yang saya kenal di proyek ini benar-benar syok dengan teks yang disuruh untuk diuji.

Kami bahkan berpikir, 'kita beneran tidak akan kena masalah kalau melakukan hal ini?'" ujar dia.

Persaingan Tak Sehat

Merespons hal ini, Meta menjelaskan bahwa pengujian tersebut merupakan praktik standar industri untuk mengukur tingkat keamanan model AI.

Namun, klaim tersebut dibantah oleh Rumman Chowdhury, CEO Humane Intelligence PBC, sebuah organisasi nirlaba pengembangan AI yang bertanggung jawab.

Menurut dia, Meta justru sudah keluar batas norma.

"Membuat proyek skala besar selama berbulan-bulan yang sengaja dirancang untuk merusak aturan sistem secara sistematis, lewat akun palsu yang menyamar sebagai anak-anak, itu sudah di luar batas apa yang disebut evaluasi," kata Chowdhury.

Ia juga menyoroti tindakan Meta yang merahasiakan proyek ini dari pesaingnya dan tidak membagikan hasilnya ke publik.

>>> Mayapada Hospital Hadirkan Layanan Kesehatan Global di Jakarta Timur

Menurut dia, ini merupakan contoh nyata zona abu-abu dalam tata kelola teknologi, ketika isu keamanan sengaja dijadikan kedok untuk menutupi praktik persaingan usaha yang tidak sehat.