Perusahaan kecerdasan buatan milik Elon Musk, xAI, resmi menggugat seorang pria asal South Carolina, Terry Harwood, atas dugaan penyalahgunaan sistem AI Grok untuk membuat materi pelecehan seksual anak.

Gugatan diajukan di pengadilan federal Texas dan menuduh Harwood melanggar ketentuan layanan xAI.

>>> Zelenskyy Bela Pemecatan Menteri Pertahanan Ukraina

Kasus ini menjadi salah satu yang pertama di mana perusahaan AI mengambil tindakan hukum terhadap pengguna atas penyalahgunaan semacam itu.

Menurut pengaduan, Harwood mengunggah gambar non-seksual ke Grok dan berusaha menghasilkan deepfake seksual eksplisit. xAI menyatakan tindakan Harwood merupakan skema terencana untuk mengeksploitasi alat mereka demi tujuan kriminal.

“Tindakan tergugat adalah skema terencana untuk mempersenjatai alat penggugat demi tujuan kriminal, yang mengekspos korban nyata pada bahaya mendalam dan berkepanjangan, serta mengekspos penggugat pada risiko hukum dan kerusakan reputasi yang signifikan,” demikian bunyi gugatan.

>>> Groundbreaking LNG Abadi Masela Dimulai, Presiden Prabowo Dorong Percepatan Produksi

xAI menegaskan bahwa mereka secara aktif menegakkan aturan terhadap pelanggaran melalui penangguhan akun, pemutusan akses, dan pemberitahuan ke National Center for Missing & Exploited Children tentang dugaan materi pelecehan seksual anak.

Seperti dilaporkan The Guardian, gugatan ini muncul di tengah pengawasan ketat terhadap potensi Grok memfasilitasi pembuatan deepfake seksual non-konsensual.

Harwood ditangkap pada Februari, namun informasi kontaknya tidak diungkapkan.

>>> Citi Luncurkan Digital Depositary Receipts untuk Perusahaan Tertutup

xAI meminta ganti rugi uang yang tidak disebutkan jumlahnya dan perintah pengadilan untuk mencegah Harwood menggunakan Grok di masa depan.