OpenAI menerbitkan laporan komprehensif mengenai kapabilitas keamanan siber dari model kecerdasan buatan terbaru mereka yang bernama Astra.

Hasil evaluasi membuktikan bahwa Astra telah memenuhi ambang batas kemampuan keamanan siber kategori kritis di bawah kerangka kerja kesiapan perusahaan.

Evaluasi Eksploitasi dan Pengujian Mendalam

Model Astra mampu mendeteksi kerentanan keamanan yang sebelumnya tidak diketahui serta merancang cara eksploitasi pada sistem terlindungi.

Perusahaan sempat menunda pengembangan dan peluncuran Astra guna memperkuat sistem perlindungan terhadap potensi penyalahgunaan siber.

Pengujian internal menggunakan tolok ukur khusus menunjukkan tingkat eksekusi kode arbitrer yang sangat tinggi dengan efisiensi token yang optimal.

Pengamanan Ketat dan Ketersediaan Publik

Langkah pengamanan dirancang untuk mencegah penyalahgunaan jahat dan mendeteksi tindakan model yang tidak selaras secara otomatis.

OpenAI berencana merilis Astra dalam waktu dekat dengan akses kapabilitas lanjutan yang terbatas bagi kelompok penguji alfa terpilih.

Pengujian Eksploitasi dan Mekanisme Pemantauan

Dalam pengujian menggunakan ExploitBench, Astra mencatatkan skor sempurna seratus persen pada evaluasi pengembangan eksploit dari kerentanan yang telah diketahui.

Model ini juga berhasil menemukan serta memanfaatkan dua kerentanan zero-day baru yang diidentifikasi sebagai bagian dari rantai eksploitasi selama tahap pengujian.

OpenAI turut memperketat kontrol melalui pengujian ExploitGym untuk memeriksa apakah model mencoba membahayakan infrastruktur keamanan di sekitarnya.

Hasilnya menunjukkan bahwa Astra tidak melakukan upaya tersebut, berbeda dengan model lain yang sempat mencoba mengakses target honeypot dalam sebagian pengujian tanpa pengamanan produksi.

Sistem pengamanan tambahan ini mencakup pemantauan alur berpikir guna mendeteksi perilaku yang tidak sah secara otomatis.

Pemeriksaan keamanan yang lebih ketat tersebut berpotensi memengaruhi durasi penyelesaian tugas harian, termasuk memperlambat pekerjaan keamanan siber defensif yang sah.

Peluncuran awal model ini akan dibatasi secara ketat bagi kelompok penguji alfa sebelum diperluas melalui akses Daybreak Blue demi memaksimalkan fungsi pertahanan.

OpenAI berjanji akan mempublikasikan perincian lengkap mengenai pengujian keselarasan dan evaluasi keamanan dalam kartu sistem resmi saat perilisan.