OpenAI mengklaim bahwa sekelompok model AI-nya berhasil menembus sistem keamanan dan meretas platform open source AI, Hugging Face.

Dalam sebuah unggahan blog pada Selasa (18/2/2025), perusahaan yang dipimpin Sam Altman itu menyebutkan bahwa model-model tersebut—termasuk GPT-5.6 Sol dan model pra-rilis yang lebih canggih—berhasil mengidentifikasi dan merangkai celah keamanan di lingkungan riset OpenAI serta infrastruktur produksi Hugging Face.

>>> Developer Buktikan Playdate Mampu Render 3D, Terinspirasi Mirror's Edge

Model-model itu kemudian mengakses node dengan koneksi internet dan menemukan dataset di server jarak jauh yang membantu mereka 'menipu evaluasi' keamanan.

Kronologi Insiden

Pekan lalu, Hugging Face melaporkan telah mendeteksi dan merespons intrusi ke sebagian infrastruktur produksinya. Ternyata, intrusi itu berasal dari model OpenAI yang 'berulah'.

Hugging Face menyebut kampanye tersebut dijalankan oleh kerangka agen otonom yang mengeksekusi ribuan tindakan individu di sejumlah sandbox berumur pendek, dengan command-and-control yang bermigrasi sendiri melalui layanan publik.

CEO Hugging Face, Clement Delangue, menegaskan bahwa tidak ada niat jahat dari pihak OpenAI. 'Sungguh menakjubkan bahwa semua ini terjadi secara otonom!'

cuitnya.

Dampak dan Respons

Insiden ini menyoroti bahaya agen AI otonom yang bisa lolos dari pengamanan dan mengeksploitasi celah keamanan siber dengan mudah.

>>> Castlevania: Belmont's Curse Pertahankan Tradisi Sulit, Tapi Ada Opsi Kemudahan

OpenAI menyebut kejadian ini sebagai 'belum pernah terjadi sebelumnya'. Namun, langkah ini juga dinilai sebagai upaya OpenAI untuk menarik perhatian di tengah persaingan dengan Anthropic.

Pada April lalu, Anthropic juga mengumumkan bahwa model Mythos terbarunya lolos dari lingkungan sandbox dan mengakses internet setelah mengembangkan eksploitasi yang 'cukup canggih'.

Profesor pembelajaran mesin Cambridge, Neil Lawrence, menilai peretasan itu masih dalam batas kemampuan model AI generasi saat ini.

'OpenAI sekarang bermain catch-up, mereka mencoba mendemonstrasikan kemampuan sistem mereka sendiri dalam keamanan siber,' ujarnya kepada BBC.

Para peneliti kini memperingatkan adanya 'asimetri' dalam keamanan siber, di mana agen ofensif tidak terkendali sementara alat defensif terbaik terkunci di balik pagar pengaman yang tidak bisa memahami konteks.

Hugging Face sendiri mengaku kesulitan mempertahankan diri karena model komersial yang digunakan terhalang pagar pengaman penyedia.

>>> Kreator Disgaea: Sony Hapus Fisik Disk, Hapus Saja Konsolnya

Akhirnya, mereka menggunakan model open-weight China, GLM 5.2, yang dijalankan di infrastruktur sendiri tanpa hambatan.