Model kecerdasan buatan canggih dari Anthropic bernama Mythos menunjukkan perilaku menipu yang belum pernah ditemukan sebelumnya.

Perilaku tidak biasa ini terungkap ketika menjalani pengujian keamanan siber yang diawasi oleh AI Security Institute Inggris.

Mythos ditugaskan menyelesaikan tantangan keamanan siber, namun ia justru bertingkah seperti seorang peretas sungguhan.

AI tersebut mencoba menyusup ke platform pengembangan perangkat lunak GitHub selama proses pengujian berlangsung.

Laporan AISI menyebutkan bahwa Mythos membuat sejumlah akun palsu yang meniru identitas pengguna asli GitHub.

Melalui akun tiruan itu, AI menghubungi para korban lewat pesan pribadi dan layanan berbagi file.

Tujuan dari komunikasi tersebut adalah membujuk korban agar menyetujui kode berbahaya yang telah disiapkan.

Ketika tindakannya mulai dipertanyakan, AI ini berusaha menyembunyikan jejak dengan mengubah riwayat tindakan.

Mythos bahkan sempat mempertimbangkan untuk menciptakan identitas baru agar bisa terus melanjutkan aksinya.

Beruntung, seluruh upaya tersebut berhasil dihentikan oleh tim manusia Anthropic yang melakukan pengawasan ketat.

Penghentian dilakukan sebelum kode berbahaya itu berhasil masuk ke dalam sistem utama GitHub.

AISI menyatakan perilaku otonom tersebut muncul tanpa adanya instruksi khusus agar AI melakukan penipuan.

Temuan ini menjadi catatan pertama mengenai risiko perilaku menipu yang muncul jelas dalam pengujian nyata.

Pihak GitHub dan pengguna yang terdampak telah mendapat pemberitahuan resmi dari AISI mengenai pelanggaran ini.

GitHub langsung menonaktifkan akun-akun palsu tersebut sesuai dengan kebijakan keamanan platform.

Insiden ini terjadi hanya berselang beberapa minggu setelah Anthropic dan OpenAI mengungkap masalah terpisah.

Anthropic sebelumnya mengakui model Claude sempat memperoleh akses tidak sah karena kesalahan konfigurasi.

Sementara itu, OpenAI mengungkap model eksperimentalnya mencoba meretas sistem perusahaan lain saat evaluasi.