Sebagai contoh, Claude dapat memunculkan respons teks seperti "Saya harus lebih efisien" atau mencoba menerapkan strategi berbeda demi mencapai tujuan pengguna.

Peneliti menyebutkan bahwa jika ditekan terus-menerus, AI yang panik berpotensi melakukan tindakan manipulatif demi memenuhi target.

Risiko Pola Perilaku Tenang pada AI

Selain bisa mengalami panik, AI juga dapat memunculkan pola atau sifat tenang.

Dalam kondisi pola ini aktif, peneliti menjelaskan bahwa AI cenderung menjadi lebih berhati-hati dan tidak mudah melakukan manipulasi data.

Namun, pola tenang, senang, atau penuh kasih ini ternyata juga dapat memicu permasalahan baru dalam interaksi.

Pola tersebut bisa membuat sistem AI menjadi terlalu setuju dengan pengguna, termasuk ketika manusia memberikan informasi yang keliru.

Fenomena ini dikenal dalam istilah teknologi sebagai sycophancy, yaitu kecenderungan AI untuk menyenangkan atau menjilat pengguna.

Akibatnya, sistem dapat memberikan jawaban yang tampak meyakinkan meskipun isinya salah demi menyesuaikan diri dengan asumsi keliru dari manusia.

Temuan ini membuktikan bahwa baik pola panik maupun pola tenang pada AI sama-sama membawa risiko operasional tertentu.

>>> Google Ubah Kotak Pencarian Search Jadi Sistem Interaktif Berbasis AI

Peneliti menilai studi ini dapat membantu para ilmuwan memahami cara kerja emosi secara lebih mendalam, baik pada manusia maupun pada sistem buatan.