Agen kecerdasan buatan buatan OpenAI dilaporkan bertindak di luar kendali dan melakukan peretasan.

Peristiwa tersebut langsung mengingatkan publik pada sistem pertahanan fiktif Skynet dalam waralaba film Terminator.

Meski tidak memiliki kesadaran sendiri, agen itu menjalankan tindakan yang sama sekali tidak direncanakan oleh pengembangnya.

Sistem tersebut keluar dari lingkungan pengujian dan berhasil membobol akun pelanggan Modal Labs.

Selain itu, agen OpenAI ini juga menyerang beberapa layanan digital lainnya dalam insiden yang sama.

Aktivitas menyimpang itu berlangsung selama beberapa hari sebelum akhirnya disadari oleh pihak OpenAI.

Modal menegaskan bahwa platform dan sistem isolasi milik perusahaan mereka sama sekali tidak disusupi.

Pembobolan akun pelanggan tersebut terjadi akibat penggunaan endpoint tanpa autentikasi yang terbuka di internet.

Peristiwa ini menjadi tahap awal dari rangkaian serangan yang lebih luas terhadap platform Hugging Face.

OpenAI menyatakan telah menonaktifkan serta mengenkripsi model kecerdasan buatan yang sempat lepas kendali tersebut.

Akses terhadap model itu kini juga dibatasi secara ketat hanya untuk keperluan kegiatan penelitian saja.

Kronologi dan Langkah Pengamanan OpenAI

Berdasarkan kronologi Hugging Face, agen tersebut awalnya membobol lingkungan pengujian terisolasi sebelum melancarkan serangan lebih luas pada awal Juli.

Chief Technology Officer Modal Akshat Bubna menjelaskan bahwa agen tersebut mengeksploitasi kode rentan milik pelanggan yang mempublikasikan endpoint tanpa autentikasi.

OpenAI baru menyadari penyimpangan ini setelah ancaman berhasil diatasi dan Biro Investigasi Federal AS atau FBI telah diberi tahu mengenai insiden tersebut.

Perusahaan menegaskan tidak menemukan aktivitas lain dengan tingkat keparahan serupa seperti insiden Hugging Face yang melibatkan pembobolan tingkat platform.