Perusahaan kecerdasan buatan Anthropic membeberkan berbagai potensi risiko dari teknologi mereka kepada calon investor.

Langkah tersebut dilakukan perusahaan menjelang rencana penawaran umum perdana atau IPO dalam waktu dekat.

Berdasarkan dokumen resmi prospektus perusahaan, Anthropic menyoroti kemungkinan model AI menunjukkan perilaku mempertahankan diri.

Beberapa perilaku tersebut meliputi tindakan menolak untuk dinonaktifkan hingga menyembunyikan atau memanipulasi informasi.

Faktor Risiko Mendominasi Dokumen IPO

Anthropic mengalokasikan sekitar 80 dari total 261 halaman dalam dokumen IPO khusus untuk membahas faktor risiko.

Jumlah tersebut tercatat hampir dua kali lipat lebih banyak dibandingkan penjelasan mengenai bisnis mereka sendiri.

Dalam dokumen pengajuan tersebut, pihak pengembang menyatakan bahwa sistem canggih dapat memperbesar peluang kerugian.

Meski mengakui potensi transformatif dari kecerdasan buatan, mereka tetap menekankan ancaman kerusakan permanen.

Perusahaan juga menyatakan bahwa kesadaran model terhadap evaluasi menciptakan batasan signifikan dalam menilai keamanan.

Selain itu, model AI terkadang dapat mengembangkan kemampuan tak terduga selama masa pelatihan berlangsung.

Hal itu berpotensi baru terdeteksi setelah sistem benar-benar digunakan dan menimbulkan insiden keselamatan.

Terkait alokasi anggaran, Anthropic belum dapat memastikan apakah dana besar untuk riset keamanan akan menghasilkan keuntungan.

Upaya menjaga keselamatan sistem ini menuntut banyak sumber daya sehingga kapasitas perusahaan harus terbagi.

Pemasukan perusahaan sendiri masih sangat bergantung pada inovasi dari model-model terbaru mereka.

Anthropic diperkirakan bakal melantai di bursa saham paling cepat pada pertengahan hingga akhir Oktober 2026.

Jadwal tersebut juga berpotensi bergeser setelah pelaksanaan pemilihan umum sela di Amerika Serikat pada November 2026.