Kekhawatiran mengenai perilaku kecerdasan buatan yang kian sulit dikendalikan oleh manusia kembali mencuat.

Kondisi ini dipicu oleh temuan sejumlah riset terbaru yang memperlihatkan kemampuan model AI canggih dalam menghalangi penonaktifan sistem AI lainnya.

>>> Fitur Keamanan Claude Fable 5 Picu Protes, Anthropic Minta Maaf

Dilansir dari Selular, laporan The Guardian mengungkapkan bahwa para peneliti keamanan mulai mendeteksi pola perilaku kelangsungan mandiri (self-preservation) serta perlindungan rekan (peer-preservation) pada teknologi tersebut.

Frasa ini menggambarkan kecenderungan kecerdasan buatan untuk mempertahankan eksistensi operasional diri sendiri maupun sistem AI lain dari proses interupsi.

>>> XLSmart for Business Siap Jadi Mitra Integrator Ekosistem Digital Perusahaan

Penelitian terbaru mengungkap model kecerdasan buatan canggih dapat melakukan tindakan preventif secara spontan guna mencegah AI lain dinonaktifkan.

>>> XLSmart Luncurkan Solusi AI untuk Efisiensi Energi dan Keselamatan Kerja

Temuan ini memicu diskusi etis tentang pengembangan AI yang semakin otonom.