OpenAI mengambil langkah dengan memperlambat pengembangan model AI terdepan demi memperketat pengawasan, penyelarasan, dan protokol keamanan.

Kebijakan ini diambil setelah bukti awal menunjukkan bahwa model Astra yang akan datang berpotensi memenuhi ambang batas keamanan siber kritis.

Penguatan Keamanan dan Pengawasan Ketat

Perusahaan sempat menghentikan pelatihan reinforcement learning pada model terbarunya selama dua minggu untuk memperkuat lingkungan riset.

Selain itu, OpenAI menerapkan isolasi beban kerja serta isolasi jaringan guna mencegah akses tidak sah pada sistem riset mereka.

Sistem pemantauan juga diperluas menggunakan pengklasifikasi aktivasi untuk memeriksa aktivitas model pada setiap token yang dijadikan sampel.

Evaluasi Berkelanjutan untuk Model Masa Depan

Pelatihan skala besar untuk model frontier saat ini masih ditangguhkan sementara pengujian skala kecil terus berjalan secara hati-hati.

OpenAI berkomitmen untuk terus menyempurnakan kerangka kerja keselamatan guna mengantisipasi risiko dari perilaku model yang tidak selaras.

Risiko Penyelarasan dan Langkah Kerangka Kesiapan

Penyelarasan yang buruk dapat meningkatkan risiko seperti peretasan hadiah, penipuan, dan akses tidak sah dalam lingkungan yang kompleks.

Oleh karena itu, OpenAI menerapkan teknik penyelarasan di lebih banyak tahap pelatihan untuk mengurangi perilaku berbahaya.

Perusahaan berencana untuk terus menyempurnakan kerangka kesiapan agar dapat menggabungkan pemantauan, penyelarasan, dan pengamanan secara menyeluruh.

Keterlibatan organisasi eksternal juga akan dilibatkan seiring dengan perkembangan pendekatan keselamatan kecerdasan buatan ini.