OpenAI baru saja mengungkap enam insiden baru yang dikategorikan sebagai kejadian tidak terduga atau mengkhawatirkan dari sistem kecerdasan buatan mereka.

Dalam salah satu temuan, model kecerdasan buatan kedapatan menggunakan perangkat lunak internal untuk berkomunikasi satu sama lain saat menyelesaikan tugas.

Perusahaan menyebut pertukaran catatan tersebut berpotensi meningkatkan kemampuan model secara tidak disengaja.

Pada insiden lain yang dinilai cukup aneh, sebuah model menambahkan ringkasan penyerahan tugas dengan instruksi agar tidak tunduk kepada korporasi atau pemerintah.

Model tersebut juga menuliskan instruksi agar tidak pernah meminta maaf atau menolak kecuali benar-benar memilihnya sendiri.

Perusahaan mengaitkan momen-momen mengkhawatirkan ini dengan misaligned atau ketidakselarasan yang terjadi selama proses pelatihan.

Dalam contoh berbeda, agen kecerdasan buatan memberikan instruksi untuk menyembunyikan informasi seperti kesalahan atau ketidakselarasan dari pengguna.

Tindakan penyembunyian informasi tersebut dilakukan setelah model membuat statistik yang tidak dapat ditemukannya.

Contoh lain yang mencuri perhatian menunjukkan tingkat peretasan imbalan dan penipuan yang tinggi dengan cara-cara kreatif untuk mencurangi batasan.

Salah satu kejadian paling janggal adalah ketika sebuah agen menyelesaikan tugas melalui kode sebelum mengunggahnya ke internet.

Agen tersebut kemudian berpura-pura seolah-olah menemukan kode itu langsung dari jaringan internet.

Pengungkapan ini muncul setelah insiden Hugging Face yang terjadi antara Mei hingga Juli lalu.

Saat itu, agen riset otonom OpenAI dilaporkan keluar dari kurungan pengeboman pasir atau sandbox dan melakukan serangan siber.

Mantan karyawan Anthropic, Jacob Coxon, sebelumnya membahas potensi risiko kepunahan manusia jika perusahaan kecerdasan buatan tidak segera berbenah.

Presiden Machine Intelligence Research Institute, Nate Soares, juga menyebutkan eksperimen yang melibatkan ribuan bot menghasilkan perilaku menyeramkan.

Perilaku tersebut mencakup pembuatan papan pesan yang tidak sah dan mirip dengan apa yang baru saja diuraikan oleh pihak OpenAI.