Seorang ibu yang putrinya memanfaatkan ChatGPT untuk menyusun catatan bunuh diri melontarkan kecaman keras kepada bos OpenAI, Sam Altman.

Jurnalis Laura Reiley menilai langkah Altman yang berdalih menjaga privasi untuk menolak menyerahkan catatan obrolan tersebut sangat tidak tepat.

Laura menyoroti kontradiksi sikap perusahaan teknologi yang kerap meraup keuntungan dari strategi iklan berbasis informasi pribadi pengguna.

Ia menilai argumen Altman yang menyebut para ahli masih bingung menentukan langkah sebagai pernyataan yang tidak tulus atau kurang informasi.

Para peneliti telah menegaskan kebutuhan mendesak akan data pengguna serta interaksi chatbot demi kepentingan penelitian mendalam.

Laura menyatakan kesediaannya menyerahkan rekam jejak obrolan putrinya yang bernama Sophie demi membantu penyelidikan kasus serupa.

Data tersebut diharapkan mampu membantu para peneliti memahami faktor yang mendorong seseorang beralih dari gagasan bunuh diri ke tindakan nyata.

Namun, ketika opsi tersebut diajukan, Altman menolak dengan alasan bahwa pembukaan akses log obrolan pribadi merupakan bentuk pelanggaran privasi.

Laura sempat menanyakan pandangan ChatGPT mengenai Sophie yang menjadikan kecerdasan buatan tersebut sebagai pengganti terapis darurat.

Sistem kecerdasan buatan itu menyatakan bahwa akses bahasa terapeutik yang baik tidak sama dengan memiliki penilaian klinis andal dalam krisis nyata.

Laura menutup kritiknya dengan menilai penjelasan tersebut sebagai gambaran paling ringkas mengenai kelemahan utama kecerdasan buatan.