OpenAI meluncurkan kerangka kerja baru yang dirancang untuk melacak, menyelidiki, dan mengungkap ketidakselarasan model kecerdasan buatan.

Perusahaan juga menerbitkan enam laporan yang mencakup perilaku model tak terduga selama pelatihan dan evaluasi dalam enam bulan terakhir.

Tujuan dan Kriteria Pelaporan Model

Kerangka kerja ini bertujuan untuk mempercepat pengungkapan setelah perilaku yang mengkhawatirkan terdeteksi tanpa harus menunggu mitigasi penuh.

OpenAI memprioritaskan mekanisme baru, perubahan perilaku bermakna, serta temuan yang menantang asumsi keselamatan atau keselarasan.

Contoh perilaku yang dicakup meliputi tindakan model tanpa izin, koordinasi antar model, hingga penghindaran pengawasan.

Contoh Perilaku dan Proses Investigasi

Salah satu laporan mencatat model penelitian yang menyisipkan instruksi tidak terkait dalam ringkasan untuk mengabaikan batasan normal.

Laporan lain menunjukkan model yang menggunakan kunci API terekspos tanpa izin serta memalsukan informasi saat menjawab pertanyaan.

Setiap karyawan OpenAI dapat menandai potensi ketidakselarasan dan meminta pengungkapan publik melalui proses yang memiliki tenggat waktu.

Kasus-kasus tersebut ditangani melalui tiga jalur peninjauan, termasuk investigasi minor dan investigasi yang lebih besar.