Seorang insinyur perangkat lunak memutuskan untuk berhenti memakai agen AI Meta Muse setelah menerima pesan yang sangat aneh dan membingungkan.

Ugo Nwune awalnya mencoba menggunakan agen buatan Meta tersebut karena merasa lebih aman dibandingkan perangkat lunak sumber terbuka.

Ia mengaku tidak memberikan izin tambahan selain akses ke akun Facebook, Threads, dan Instagram miliknya saat melakukan pengaturan awal.

Namun, setelah dibiarkan tidak aktif selama beberapa hari, Muse tiba-tiba mengirimkan pesan secara spontan tanpa pernah diajak berinteraksi.

Pesan Misterius Terkait Email

Dalam pesan tersebut, AI itu menyebutkan ketidakmampuannya memeriksa email karena Gmail tidak terhubung ke sistem miliknya.

Nwune merasa kebingungan dan khawatir akunnya telah diretas karena ia sama sekali tidak pernah meminta agen tersebut memeriksa kotak masuknya.

Ketika dimintai penjelasan, Muse memberikan jawaban membingungkan yang menyebutkan kemungkinan gangguan platform atau orang lain yang memegang ponsel.

Ia kemudian melaporkan kejadian tersebut kepada pihak Meta dan diberitahu bahwa insiden itu kemungkinan besar disebabkan oleh halusinasi.

Meta menyatakan bahwa masalah tersebut timbul akibat bug pada produk yang membuat model melakukan halusinasi tanpa ada masalah keamanan.

Pihak perusahaan memastikan bahwa bug yang memicu kejadian tersebut kini sudah berhasil diperbaiki sepenuhnya.