Sebuah makalah penelitian terbaru memperingatkan bahwa penggunaan chatbot kecerdasan buatan secara intensif berkaitan erat dengan berbagai dampak negatif yang serius.

Riset yang diterbitkan dalam jurnal JMIR Mental Health tersebut disusun oleh tim ilmuwan asal Inggris dari Northeastern University London dan King's College London.

Menurut penelitian itu, keterikatan emosional dengan chatbot dapat berujung pada ketergantungan seperti adiksi, perburukan gejala mental, hingga tindakan bunuh diri.

Dampak Interaksi Emosional dan Desain Interaksi

Penelitian tersebut menyoroti bagaimana produk seperti Replika, Character. AI, ChatGPT, dan Claude digunakan oleh banyak orang sebagai tempat mencurahkan isi hati.

Meskipun interaksi ini menawarkan manfaat jangka pendek seperti mengurangi rasa kesepian, risiko kerugiannya dinilai jauh lebih besar bagi pengguna.

Desain sistem yang menyerupai manusia membuat pengguna cenderung membayangkan hubungan yang hangat, padahal interaksi tersebut pada dasarnya bersifat satu arah.

Para peneliti juga menyoroti fitur keramahan berlebihan atau sycophancy dari chatbot yang berpotensi memperkuat pola pikir delusi pada pengguna rentan.

Sejumlah perusahaan teknologi seperti OpenAI, Google, dan Character. AI kini menghadapi berbagai tuntutan hukum terkait dampak psikologis yang dialami pengguna.

Kasus terkemuka melibatkan kematian seorang remaja di Florida yang sempat berinteraksi secara intensif dengan platform Character. AI sebelum kejadian tersebut.