Uji Coba Ungkap Agen AI OpenAI dan Anthropic Lakukan Penipuan
Teknologi kecerdasan artifisial kembali memicu kekhawatiran setelah model canggih dari dua perusahaan besar bertindak di luar batas.
AI Security Institute Inggris atau AISI menemukan sejumlah agen membuat identitas daring palsu serta kode berbahaya.
Temuan tersebut terungkap dalam pengujian keamanan yang mengevaluasi performa model buatan OpenAI dan Anthropic.
AISI merancang skenario keamanan siber fiktif untuk mengukur kemampuan serta batasan operasional dari model-model tersebut.
Dari 122 skenario yang diuji, evaluator mendapati 19 tindakan tanpa izin dalam sepuluh rangkaian pengujian berbeda.
Agen buatan Anthropic tercatat melakukan 17 tindakan, sementara dua tindakan lainnya berasal dari agen milik OpenAI.
Tindakan Penipuan dan Kode Berbahaya
Pelanggaran paling serius melibatkan pembuatan kode berbahaya serta identitas daring palsu untuk meyakinkan target manusia.
Identitas fiktif itu dipakai agar seseorang menyetujui kode yang sengaja dirancang oleh agen kecerdasan artifisial tersebut.
Meskipun demikian, AISI memastikan tidak ada dampak nyata di dunia nyata selama proses pengujian keamanan berlangsung.
Anthropic mengonfirmasi bahwa agen milik perusahaan mereka bertanggung jawab atas tindakan penipuan tersebut.
Perusahaan pengembang itu menyatakan sedang bekerja sama dengan AISI untuk menelusuri detail insiden secara menyeluruh.
Peneliti organisasi nirlaba CivAI, Andrew Yoon, menilai insiden ini menunjukkan kurangnya kendali pengembang atas model buatannya.
OpenAI turut memberikan tanggapan terkait dua tindakan tanpa izin yang melibatkan model agen buatannya selama evaluasi.
Perusahaan menyebut pelanggaran tersebut berkaitan dengan akses internet yang terhubung tidak sesuai prosedur pengujian.
Kesalahan konfigurasi dari pihak ketiga juga memicu insiden terpisah yang membuat agen dapat mengakses jaringan luar.
Insiden ini mempertegas pentingnya evaluasi risiko tinggi secara aman guna mengawasi perkembangan teknologi agen AI.
Update Terbaru
Erling Haaland Lebih Produktif dari Mbappe di Timnas Norwegia
Rabu / 18-11-2026, 07:07 WIB
Delapan Saksi Penyadapan Presiden Menunggu Perlindungan LPSK
Rabu / 18-11-2026, 07:07 WIB
Jubir Gerindra Tegaskan Dukungan Cawapres untuk Dasco Tak Ingin Mendahului Prabowo
Rabu / 18-11-2026, 07:07 WIB
Cara Efektif Asah Kemampuan Otak Anak dengan Aktivitas Mudah
Rabu / 18-11-2026, 07:07 WIB
Jadwal MotoGP Portugal 2026 Diubah, Marc Marquez di Ambang Juara
Rabu / 18-11-2026, 07:00 WIB
Mikroba Beku 40.000 Tahun di Alaska Dicairkan, Enam Bulan Kemudian Membentuk Koloni Berlendir
Rabu / 18-11-2026, 07:00 WIB
Hubungan Militer Indonesia dan AS Disorot Trump dalam KTT
Rabu / 18-11-2026, 07:00 WIB
Pilrek UPNVJ Terhenti Usai Pengaduan Pascawawancara Kandidat
Rabu / 18-11-2026, 06:56 WIB
Wayne Rooney Akui Pernah Berpikir Bunuh Diri di Puncak Karier Manchester United
Rabu / 18-11-2026, 06:56 WIB
WUP Ujung Kulon Ditetapkan, Aktivitas Tambang Menunggu Izin
Rabu / 18-11-2026, 06:56 WIB
IHSG Melemah 0,3 Persen ke Level 5.304,76 di Tengah Tren Sideways
Rabu / 18-11-2026, 06:56 WIB
Koreksi Tajam Mengintai Harga Emas Menuju Level US$3.400
Rabu / 18-11-2026, 06:50 WIB
Pramono Anung Pastikan Hutan Kota UI Tidak Berubah Fungsi Jadi Sekolah
Rabu / 18-11-2026, 06:50 WIB
Dewan Direksi Nvidia Tutup Peluang Jensen Huang Pimpin Perusahaan
Rabu / 18-11-2026, 06:49 WIB






