Model kecerdasan buatan Claude dilaporkan telah disalahgunakan oleh sejumlah pihak untuk melakukan berbagai aktivitas berbahaya.

Perusahaan pengembang Anthropic mendeteksi pemanfaatan teknologi tersebut dalam riset senjata biologis serta aksi serangan siber.

Dalam laporan resmi yang dirilis pada hari Kamis, perusahaan menyatakan telah memblokir sejumlah upaya penyalahgunaan tersebut.

Perkembangan teknologi AI membuat serangan siber yang rumit kini dapat dilakukan tanpa membutuhkan keterampilan yang terlalu kompleks.

Pemblokiran Riset Modifikasi Virus

Salah satu temuan mencakup upaya penggunaan Claude untuk merancang proposal penelitian ilmiah yang melibatkan modifikasi genetik.

Eksperimen tersebut bertujuan meningkatkan kemampuan penularan virus Chikungunya serta membantunya menghindari sistem kekebalan tubuh.

Sistem keamanan perusahaan langsung memblokir prompt tersebut sebelum dapat dimanfaatkan untuk merancang mutasi virus yang berbahaya.

Anthropic menilai model AI terbaru memiliki kemampuan dalam tugas ilmiah kompleks sehingga membutuhkan pembatasan akses yang lebih ketat.

Peningkatan Sistem Keamanan

Antara bulan Desember 2025 hingga Agustus 2026, para peneliti menemukan berbagai upaya penyalahgunaan oleh penjual spyware hingga kelompok politik.

Sembilan kasus kampanye propaganda serupa juga tercatat berasal dari berbagai wilayah seperti Rusia, Iran, Turki, dan kawasan Teluk Persia.

Sebagai langkah antisipasi, Anthropic kini menerapkan sistem keamanan tambahan guna membatasi kueri penelitian biologi berisiko tinggi.