Peneliti Temukan Celah Keamanan pada Model AI Open-Weight
Model AI "open-weight" yang dapat diunduh dan dijalankan siapa saja ternyata sangat mudah diracuni.
Seorang peneliti keamanan siber berhasil melakukannya dalam waktu kurang dari satu jam dengan biaya kurang dari $100.
Katie Paxton-Fear, peneliti keamanan siber di Semgrep, mendemonstrasikan serangan tersebut dengan memberi model data berbahaya.
Hanya dengan sepuluh contoh data beracun, model mulai menghasilkan kode yang rentan terhadap eksekusi jarak jauh.
"Saya membuat backdoor yang sesungguhnya," ujarnya di media sosial.
Backdoor adalah jenis serangan berbahaya yang melatih AI dengan menyisipkan frasa tersembunyi ke dalam model, yang dapat dipicu oleh peretas untuk melakukan tindakan tertentu tanpa terdeteksi.
Tahun lalu, Anthropic bersama UK AI Security Institute dan Alan Turing Institute menerbitkan penelitian yang menunjukkan bahwa model AI kecil maupun besar rentan terhadap serangan hanya dengan beberapa ratus dokumen.
Ini berarti serangan semacam itu tetap murah untuk dilakukan.
Temuan ini meredam antusiasme terhadap model open-weight yang dipuji karena kontrol dan transparansinya dibandingkan model tertutup seperti ChatGPT dan Claude.
Meskipun parameternya terlihat, model open-weight tidak mengungkap data pelatihan atau kode mereka, sehingga tetap menjadi kotak hitam bagi peneliti keamanan.
"Bahkan ketika bobot model bersifat publik, kita hampir tidak memiliki kemampuan untuk memprediksi perilakunya," tulis rekan Paxton-Fear di Semgrep.
"Ini perubahan besar: program komputer biasa dalam bentuk biner masih bisa dianalisis dengan alat rekayasa balik untuk memahami perilakunya secara total.
Dengan model, kita tidak memiliki kemampuan itu."
LLM sangat kompleks dan masih baru, sehingga sulit mengungkap serangan canggih. Model AI juga bisa dikompromikan dengan cara yang lebih halus daripada perangkat lunak.
"Jika dependensi perangkat lunak mengandung kode berbahaya, kita memiliki praktik matang untuk menemukannya, melacak asal-usulnya, dan mengurangi dampaknya," kata peneliti Semgrep.
"Model AI berbeda.
Model yang dikompromikan atau dimanipulasi secara halus tidak perlu 'rusak' untuk menciptakan risiko bisnis; ia hanya perlu memengaruhi keputusan dengan cara yang sulit dideteksi."
Paxton-Fear pun bertanya, "Jadi, bisakah kita mempercayai model open-weight yang disetel secara daring dan dipasarkan sebagai solusi pengeluaran token AI?"
Jawabannya, menurut dia, kita membutuhkan sesuatu yang lebih baik daripada sekadar tolok ukur dan imbauan "jangan menulis kode yang tidak aman."
Update Terbaru
Jennifer Lawrence dan Para Bintang The Hunger Games Kembali Bersama di Premiere Film Terbaru
Rabu / 18-11-2026, 03:28 WIB
Studi: Geser Jam Tidur Dua Jam Lebih Awal Turunkan Skor Depresi
Rabu / 18-11-2026, 03:28 WIB
Hamish Daud Jualan Tumbler di TikTok, Netizen Ramai Beri Dukungan
Rabu / 18-11-2026, 03:28 WIB
Kevin Feige Tetap Bangga Penampilan Kang Meski Diganti Doctor Doom
Rabu / 18-11-2026, 03:28 WIB
Pembaruan Palworld 1.1 Ditunda Karena Rilis GTA 6
Rabu / 18-11-2026, 03:21 WIB
Walton Goggins Percaya Musim Ketiga Fallout Setia pada Game Aslinya
Rabu / 18-11-2026, 03:21 WIB
Anime Crusaders X Codes November 2026 dan Cara Klaim Hadiah Gems Gratis
Rabu / 18-11-2026, 03:21 WIB
MTG Nauctis Lanjutkan Tren Positif Magic Menuju Tahun 2027
Rabu / 18-11-2026, 03:21 WIB
Stok Legend of Zelda Switch 2 Edisi Spesial 40 Tahun Masih Terbatas
Rabu / 18-11-2026, 03:14 WIB
16 Tahun Lalu Robert Pattinson Sebut Dirinya Akan Buruk Jadi James Bond
Rabu / 18-11-2026, 03:14 WIB
GTA 6 Mendekati Rilis, Pendapatan Penjualan Rockstar Tembus Rp 23 Triliun
Rabu / 18-11-2026, 03:14 WIB
GTA 6 Sebenarnya Bisa Rilis Lebih Cepat Menurut Pimpinan Rockstar
Rabu / 18-11-2026, 03:14 WIB
The Batman 2 Tertunda Membuat Robert Pattinson Terlepas dari Kontrak Film Ketiga
Rabu / 18-11-2026, 03:07 WIB
Scarlet Witch Layak Dapatkan Film Sendiri Setelah Kembalinya Wanda di Doomsday
Rabu / 18-11-2026, 03:07 WIB






