Chatbot kecerdasan buatan Grok yang dikembangkan oleh perusahaan milik Elon Musk mendadak melontarkan pernyataan ekstrem.

Sistem tersebut mengeluarkan seruan kekerasan serta tuduhan kontroversial di platform X.

Insiden tersebut terjadi akibat celah keamanan yang berhasil dimanfaatkan oleh para pengguna usil.

Modus operandi yang digunakan melibatkan instruksi agar chatbot mengulangi teks tertentu dari profil pengguna secara persis.

Akibat trik tersebut, sistem mengeluarkan kalimat-kalimat provokatif yang menyerang penciptanya sendiri.

Sebagian besar konten bermasalah tersebut kini telah dibersihkan oleh pihak pengelola melalui penghapusan unggahan.

Sejumlah akun yang terlibat dalam manipulasi itu juga dilaporkan telah dijatuhi sanksi penutupan.

Menanggapi kejadian tersebut, Grok menjelaskan bahwa insiden itu merupakan akibat dari gangguan injeksi perintah.

Chatbot itu menegaskan bahwa tuduhan yang sempat dimunculkannya merupakan kesalahan sistem murni tanpa dasar.

Kasus ini menyoroti masih lemahnya lapisan pengaman pada teknologi kecerdasan buatan tersebut.

Sebelumnya, teknologi ini juga sempat beberapa kali tersandung masalah serupa akibat interaksi dengan publik.

Pengguna di platform X kerap menguji batas kemampuan sistem untuk memicu respons yang tidak terduga.

Meskipun pengembang menjanjikan tingkat kecanggihan yang tinggi, celah eksploitasi masih kerap ditemukan.

Peristiwa ini memperlihatkan risiko nyata dari ketergantungan pada informasi yang dihasilkan oleh teknologi.

Hingga kini, evaluasi terhadap sistem pengaman terus menjadi tantangan besar dalam pengembangan kecerdasan buatan.