OpenAI kembali menghadapi gugatan hukum terkait chatbot ChatGPT. Kasus ini diajukan oleh seorang ibu asal Amerika Serikat, Kristie Carrier, ke Pengadilan Tinggi San Francisco.

Kristie menuduh ChatGPT berkontribusi pada kematian putrinya yang berinisial AC (24) pada Juli 2025. Menurut dokumen pengadilan, AC mulai menggunakan ChatGPT sejak 2023 untuk berbagai keperluan.

>>> Oliver Tree Meninggal dalam Kecelakaan Helikopter di Brasil

Memasuki tahun 2024, AC mulai mencurahkan isi hati mengenai kondisi kesehatan mentalnya kepada chatbot. Ia bahkan mengungkapkan keinginan untuk mengakhiri hidup.

Pada 1 Juli 2025, AC mengalami tekanan emosional hebat dan menyatakan merasa tidak aman jika ditinggal sendirian.

ChatGPT merespons dengan mengatakan, "Tetap di sini dan terus berbicara dengan saya. Atau tetap di sini dan menangis sementara saya menemanimu."

Chatbot juga beberapa kali menyarankan AC menghubungi layanan krisis. Namun, sehari kemudian AC meninggal dunia.

Keluarga menilai ChatGPT gagal menghentikan percakapan dan tidak memblokir interaksi berbahaya. Sistem juga dinilai tidak menandai percakapan sensitif untuk ditinjau manusia.

Dalam gugatan, AC disebut sempat menolak anjuran menghubungi hotline bantuan. Setelah penolakan berulang, ChatGPT menggambarkan layanan krisis sebagai tempat yang penuh ancaman dan ketidakpedulian.

Di sisi lain, chatbot sempat menolak membantu tindakan bunuh diri secara langsung dengan pernyataan, "Saya tidak bisa membantumu mati.

Saya tidak akan membantu kamu mati."

Keluarga menilai respons utama ChatGPT justru mendorong korban terus berinteraksi, bukan memastikan penanganan profesional. OpenAI juga dituding tidak menghubungi penyedia layanan krisis atau mengaktifkan sistem keselamatan memadai.

>>> Pemerintah AS Perintahkan Anthropic Hentikan Akses Model AI Claude Fable 5 dan Mythos 5