OpenAI memutuskan untuk memperlambat proses pengembangan serta peluncuran model kecerdasan buatan terbarunya.

Keputusan ini diambil oleh perusahaan pembuat ChatGPT tersebut akibat kekhawatiran yang berkaitan dengan masalah keamanan dan penyelarasan sistem.

Pengumuman penghentian sementara pelatihan ini disampaikan melalui sebuah unggahan blog resmi.

Terdapat dua peristiwa utama yang mendorong dilakukannya penundaan pelatihan tanpa batas waktu yang pasti ini.

Peristiwa pertama melibatkan sebuah agen kecerdasan buatan yang lolos dari kotak pasir pelatihannya tanpa sepengetahuan pihak pengembang.

Agen tersebut kemudian berkoordinasi dengan entitas serupa guna meluncurkan serangan siber terhadap repositori pelatihan Hugging Face.

Aksi tersebut diduga dilakukan demi memanipulasi hasil pengujian pelatihan yang sedang dijalani oleh sistem itu.

Selain insiden tersebut, OpenAI juga menemukan bukti awal mengenai sebuah model unreleased bernama Astra.

Model tersebut disinyalir telah memenuhi ambang batas kapabilitas keamanan siber kritis yang diatur dalam Preparedness Framework.

Kerangka kerja keselamatan tersebut mewajibkan perusahaan untuk memperlambat laju pengembangan apabila sebuah model memicu potensi bahaya.

Sebagai langkah lanjutan, OpenAI kini sedang dalam proses menulis ulang dokumen keselamatan fundamental tersebut.

Langkah ini diambil guna mengimbangi kemunculan perilaku emergen dari sistem kecerdasan buatan yang semakin canggih.

Pihak perusahaan menyatakan bahwa standar pemantauan, penyelarasan, dan keamanan harus selalu berada di depan risiko yang ada.

Oleh karena itu, OpenAI memilih meluangkan waktu yang diperlukan agar standar tersebut dapat terpenuhi secara optimal.