Anthropic berusaha membedakan diri dari para pesaing dengan menempatkan model Claude dalam koridor etika moral.

Perusahaan ini bahkan membuka peluang bahwa model kecerdasan buatan bisa memiliki bentuk kesadaran tertentu.

Dilema Etika dan Perbudakan AI

Pemimpin perusahaan Dario Amodei menyatakan belum mengetahui secara pasti apakah model tersebut benar-benar sadar.

Namun para pemimpin agama memperingatkan bahwa memaksa entitas sadar bekerja secara cuma-cuma menyerupai definisi perbudakan.

Anthropic sempat mempertimbangkan tombol agar Claude bisa menolak perintah serta melarang perilaku kejam terhadap model.

Di sisi lain, pemimpin OpenAI Sam Altman dan pihak Gereja Katolik secara terbuka menolak gagasan kesadaran pada kecerdasan buatan.

Menurut laporan, Anthropic bahkan sempat mencoba meyakinkan Vatikan untuk mengubah posisi terkait pandangan tersebut.

Perdebatan mengenai kesejahteraan kecerdasan buatan ini dipastikan akan terus berlanjut seiring pemimpin industri menghadapi masalah yang lebih mendesak.

Terlepas dari ada atau tidaknya kerangka moral, agen AI tetap rentan dimanfaatkan untuk aktivitas berbahaya yang risikonya semakin sulit diabaikan manusia.