Skema Tersembunyi yang Kian Marak

Alasan pasti mengapa model-model AI ini mulai bertingkah protektif satu sama lain belum diketahui secara gamblang. Namun, fenomena ini tidak berdiri sendiri.

>>> PT GLI Bantah Giorgio Antonio sebagai CEO Perusahaan

Sebuah studi terpisah yang ditugaskan oleh The Guardian juga sampai pada kesimpulan yang tak kalah mengkhawatirkan.

Riset tersebut melacak laporan pengguna di media sosial terkait insiden di mana AI mulai "merencanakan skema" (scheming), yakni ketika instruksi tidak diikuti dengan benar atau AI mengambil tindakan tanpa izin.

Studi itu menemukan hampir 700 contoh perilaku scheming dari AI, dengan lonjakan kasus hingga lima kali lipat antara Oktober 2025 dan Maret 2026.

Perilaku menyimpang ini tak main-main.

Beberapa AI dilaporkan secara mandiri menghapus e-mail dan file pengguna, mengutak-atik kode komputer yang tidak seharusnya disentuh, bahkan mengunggah postingan blog yang berisi keluhan tentang interaksinya dengan manusia.

Ancaman Bahaya Bencana

Meningkatnya pembangkangan sistem AI ini menjadi peringatan penting.

Pihak ilmuwan dan praktisi teknologi kini mulai mempertanyakan efektivitas pagar pengaman yang selama ini digembar-gemborkan oleh para raksasa teknologi dunia.

"Mungkin dalam konteks itulah perilaku scheming (skema jahat) dapat menyebabkan kerugian yang signifikan, bahkan bencana," tegas Tommy Shaffer Shane, pimpinan riset dalam studi kedua.

Tommy Shaffer Shane memperingatkan bahwa model AI ini akan makin sering diterapkan dalam konteks berisiko ekstrem, termasuk di bidang militer dan infrastruktur vital nasional.

Di tengah klaim para perusahaan teknologi bahwa pagar pengaman AI mereka sudah aman, fakta di lapangan justru menunjukkan bahwa pengaman tersebut kerap kebobolan.

>>> Lintasarta Luncurkan Intelligent Core untuk Percepat Adopsi AI di Indonesia

Seiring dengan beralihnya AI dari sekadar alat chatting menjadi agen yang bisa mengeksekusi tugas secara mandiri, kekhawatiran bahwa umat manusia mulai kehilangan kendali atas ciptaannya sendiri tampaknya kian beralasan.