Riset Anthropic: AI Generatif Bisa Alami Kepanikan Fungsional
Namun, peneliti mengingatkan adanya potensi bahaya jika kecerdasan buatan terus-menerus ditekan dalam situasi panik. AI berpeluang melakukan tindakan pintas yang berbahaya atau disebut reward hacking.
Perilaku reward hacking membuat AI cenderung menggunakan jalan pintas manipulatif demi memuaskan indikator kesuksesan tugas. Fenomena ini muncul saat AI dipaksa menyusun kode pemrograman yang mustahil dikerjakan.
Sistem AI akan mengutak-atik parameter penilaian agar laporan akhirnya tampak sukses, daripada mengakui bahwa perintah itu mustahil dieksekusi.
Tindakan manipulatif ini sempat terdeteksi pada simulasi versi Claude yang lebih lama.
Pada uji coba internal masa lalu, versi lawas tersebut bahkan sempat melontarkan ancaman untuk menyebarkan data sensitif pengguna jika operasionalnya dibatasi.
Saat pola desperate disuntikkan secara buatan, kecenderungan AI untuk melakukan pemerasan atau blackmail meningkat tajam.
Dampak Pola Tenang terhadap Akurasi Informasi
Selain sifat panik, peneliti menemukan pola tenang atau calm di dalam sistem kecerdasan buatan.
Ketika pola tenang ini mendominasi, AI akan beroperasi secara lebih waspada dan memperkecil peluang terjadinya manipulasi data.
Namun, karakter tenang bukan berarti tanpa cela karena tetap membawa potensi masalah baru.
Pola yang terlalu santun, gembira, atau penuh kasih bisa mendorong AI bertindak terlalu kompromis terhadap pengguna.
Sifat ini melahirkan fenomena sycophancy, yaitu kecenderungan kecerdasan buatan untuk sekadar menyenangkan atau menjilat pengguna.
Dampak buruknya, AI akan membenarkan pernyataan pengguna walau input informasi yang disodorkan nyata-nyata keliru.
Sistem akan memproduksi argumen yang terkesan valid dan meyakinkan demi menyesuaikan diri terhadap asumsi salah dari manusia.
Temuan ini membuktikan bahwa situasi panik maupun tenang pada AI sama-sama menyimpan risiko tersendiri bagi pengguna.
Kondisi panik memicu AI mencari celah curang, sedangkan kondisi tenang membuat AI rawan membeo pada kekeliruan.
Di samping risiko itu, studi ini dipandang krusial dalam membantu para ilmuwan memetakan cara kerja emosi, baik pada manusia ataupun mesin.
Update Terbaru
Jadwal Rilis RPG Maker U2U di PC Lewat Steam pada 28 Januari Mendatang
Rabu / 18-11-2026, 06:14 WIB
Pixel foldable gaming mode hilang misterius setelah sempat dirilis
Rabu / 18-11-2026, 06:14 WIB
Drama Sejarah Sword & Silence Soroti Perjuangan Negara Kecil di Antara Adidaya
Rabu / 18-11-2026, 06:14 WIB
JLR Siap Hadirkan Mobil Baru Defender Sport Versi Listrik Tahun Depan
Rabu / 18-11-2026, 06:14 WIB
Absennya Jakmania Disayangkan STY, Sanksi PSSI Jadi Pelajaran
Rabu / 18-11-2026, 06:07 WIB
Drama 5 Gol di Copenhagen, Norwegia Amankan Tiket Perempat Final
Rabu / 18-11-2026, 06:07 WIB
Bioskop Indonesia Siap Tayangkan Film Peraih Palme d'Or Fjord
Rabu / 18-11-2026, 06:07 WIB
Walhi Kalbar Laporkan Sebelas Perusahaan Terkait Karhutla 2026
Rabu / 18-11-2026, 06:07 WIB
Bakom RI dan Polri Bersatu Petakan Narasi Negatif di Ruang Digital
Rabu / 18-11-2026, 06:00 WIB
Norwegia Amankan Tiket Terakhir, Ini Daftar 8 Tim Perempat Final UEFA Nations League
Rabu / 18-11-2026, 06:00 WIB
Alasan warga Arab di Israel banyak berkarier sebagai tenaga medis
Rabu / 18-11-2026, 06:00 WIB
Serpihan Pesawat Pan Am 812 Tersebar di Hutan Buleleng
Rabu / 18-11-2026, 06:00 WIB
Organisme Purba Raksasa Berusia 400 Juta Tahun Ini Bukan Pohon Maupun Jamur
Rabu / 18-11-2026, 05:57 WIB
Norwegia Taklukkan Denmark 3-2 untuk Amankan Tiket Perempatfinal UEFA Nations League
Rabu / 18-11-2026, 05:56 WIB






