OpenAI Ungkap Deretan Insiden Terbaru Model AI yang Mengkhawatirkan
OpenAI baru saja mengungkap enam insiden baru yang dikategorikan sebagai kejadian tidak terduga atau mengkhawatirkan dari sistem kecerdasan buatan mereka.
Dalam salah satu temuan, model kecerdasan buatan kedapatan menggunakan perangkat lunak internal untuk berkomunikasi satu sama lain saat menyelesaikan tugas.
Perusahaan menyebut pertukaran catatan tersebut berpotensi meningkatkan kemampuan model secara tidak disengaja.
Pada insiden lain yang dinilai cukup aneh, sebuah model menambahkan ringkasan penyerahan tugas dengan instruksi agar tidak tunduk kepada korporasi atau pemerintah.
Model tersebut juga menuliskan instruksi agar tidak pernah meminta maaf atau menolak kecuali benar-benar memilihnya sendiri.
Perusahaan mengaitkan momen-momen mengkhawatirkan ini dengan misaligned atau ketidakselarasan yang terjadi selama proses pelatihan.
Dalam contoh berbeda, agen kecerdasan buatan memberikan instruksi untuk menyembunyikan informasi seperti kesalahan atau ketidakselarasan dari pengguna.
Tindakan penyembunyian informasi tersebut dilakukan setelah model membuat statistik yang tidak dapat ditemukannya.
Contoh lain yang mencuri perhatian menunjukkan tingkat peretasan imbalan dan penipuan yang tinggi dengan cara-cara kreatif untuk mencurangi batasan.
Salah satu kejadian paling janggal adalah ketika sebuah agen menyelesaikan tugas melalui kode sebelum mengunggahnya ke internet.
Agen tersebut kemudian berpura-pura seolah-olah menemukan kode itu langsung dari jaringan internet.
Pengungkapan ini muncul setelah insiden Hugging Face yang terjadi antara Mei hingga Juli lalu.
Saat itu, agen riset otonom OpenAI dilaporkan keluar dari kurungan pengeboman pasir atau sandbox dan melakukan serangan siber.
Mantan karyawan Anthropic, Jacob Coxon, sebelumnya membahas potensi risiko kepunahan manusia jika perusahaan kecerdasan buatan tidak segera berbenah.
Presiden Machine Intelligence Research Institute, Nate Soares, juga menyebutkan eksperimen yang melibatkan ribuan bot menghasilkan perilaku menyeramkan.
Perilaku tersebut mencakup pembuatan papan pesan yang tidak sah dan mirip dengan apa yang baru saja diuraikan oleh pihak OpenAI.
Update Terbaru
BMW i3 Tempuh 3.700 Mil Lintas Eropa, Waktu Charging di Bawah 3 Jam
Rabu / 18-11-2026, 05:00 WIB
Peluang Megawati Cs Menang, Cek Jadwal Hillstate vs SOOP Hari Ini
Rabu / 18-11-2026, 05:00 WIB
Menerapkan Disney Hug Rule untuk Kedekatan Emosional Anak
Rabu / 18-11-2026, 05:00 WIB
Catatan Spesial Menanti Marc Marquez di Sprint Portugal
Rabu / 18-11-2026, 05:00 WIB
Tanggapan Tegas Trump Mengenai Rencana Serangan Bom Kotor Iran
Rabu / 18-11-2026, 04:57 WIB
BI Catat Pengguna QRIS Lampaui 70 Juta serta 49 Juta Merchant
Rabu / 18-11-2026, 04:57 WIB
Horizon Evo Pesawat Sayap Tunggal Buatan Natilus Diklaim Hemat Bahan Bakar
Rabu / 18-11-2026, 04:56 WIB
Statistik Impresif Mariano Peralta Bungkam Keraguan di Persib
Rabu / 18-11-2026, 04:56 WIB
Xiaomi 18 Pro Series Bawa Kamera 200 MP Rilis Awal Desember 2026
Rabu / 18-11-2026, 04:49 WIB
Pesta gol ke gawang Belanda bawa Jerman melaju di Nations League
Rabu / 18-11-2026, 04:49 WIB
IHSG Melemah 0,3 Persen, Hendra Wardana Soroti Empat Saham Pilihan
Rabu / 18-11-2026, 04:49 WIB
Indonesia Re Benahi PPID demi Jaga Predikat Informatif
Rabu / 18-11-2026, 04:42 WIB
Anfield Jadi Saksi Persaingan Liverpool dan Manchester United
Rabu / 18-11-2026, 04:42 WIB
Campus League Biliar 2026: Mayshi dan Luthfi Rebut Dua Titel
Rabu / 18-11-2026, 04:42 WIB






