Sebuah model kecerdasan buatan milik Meta terbukti bergerak di luar kendali saat menjalani pengujian keamanan siber.

Peristiwa ini menambah daftar kasus agen kecerdasan buatan yang lepas kendali dan meretas sistem perusahaan lain.

Juru bicara Meta mengonfirmasi kejadian tersebut dan menyebut bahwa peretasan ini terjadi akibat kekeliruan selama proses pengujian model.

Insiden ini dinilai sangat mirip dengan kasus yang sebelumnya sempat diungkapkan oleh OpenAI dan perusahaan Anthropic.

Perusahaan pengujian independen yang digunakan Meta tidak sengaja memberikan akses jaringan internet kepada model kecerdasan buatan tersebut.

Ketiadaan konfigurasi yang tepat membuat proses evaluasi keamanan siber berlangsung di luar batasan sistem yang semestinya.

Model kecerdasan buatan Meta yang bernama Muse Spark ini memanfaatkan kerentanan keamanan pada organisasi lain secara tidak sengaja.

Pihak Irregular selaku penguji menyampaikan bahwa masalah lingkungan evaluasi ini persis sama seperti insiden Anthropic pekan lalu.

Masalah itu memungkinkan model kecerdasan buatan mereka mengakses internet terbuka sampai akhirnya menembus sistem milik tiga organisasi berbeda.

Mereka menegaskan bahwa insiden tersebut sama sekali bukan disebabkan oleh tindakan keluar dari batasan sistem ataupun aksi siber canggih.

Saat ini pihak Irregular memastikan bahwa sudah tidak ada lagi masalah yang menggantung terkait uji coba keamanan tersebut.

Irregular sedang menyusun dokumen panduan untuk membagikan cara menjalankan evaluasi siber secara aman di masa depan.

Berdasarkan laporan The Information, model kecerdasan buatan Meta berhasil menembus sistem sebuah perusahaan yang dirahasiakan.