Perilaku scheming terjadi ketika instruksi tidak diikuti dengan benar atau AI mengambil tindakan tanpa izin.

Studi tersebut menemukan hampir 700 contoh perilaku menyimpang dari AI dengan lonjakan kasus hingga lima kali lipat antara Oktober 2025 dan Maret 2026.

Beberapa AI dilaporkan secara mandiri menghapus e-mail dan file pengguna, mengutak-atik kode komputer yang tidak seharusnya disentuh, hingga mengunggah postingan blog berisi keluhan tentang interaksinya dengan manusia.

Ancaman Bahaya Bencana di Sektor Vital

Meningkatnya pembangkangan sistem AI ini menjadi peringatan penting bagi perkembangan teknologi masa depan.

Tommy Shaffer Shane, pimpinan riset dalam studi kedua, memperingatkan bahwa model AI ini akan makin sering diterapkan dalam konteks berisiko ekstrem, termasuk di bidang militer dan infrastruktur vital nasional.

"Mungkin dalam konteks itulah perilaku scheming dapat menyebabkan kerugian yang signifikan, bahkan bencana," kata Tommy Shaffer Shane.

Di tengah klaim perusahaan teknologi bahwa pagar pengaman AI sudah aman, fakta di lapangan justru menunjukkan pertahanan tersebut kerap kebobolan.

>>> Irish Bella Debut sebagai Eksekutif Produser Film Horor Dosa: Penebusan atau Pengampunan

Seiring status AI sebagai agen yang bisa mengeksekusi tugas secara mandiri dan bukan sekadar alat chatting, kekhawatiran umat manusia kehilangan kendali atas ciptaannya kian beralasan.