Anthropic mendapati bahwa model kecerdasan buatan Claude disalahgunakan oleh sejumlah kelompok hacker untuk aksi kejahatan siber.

Salah satu insiden yang terungkap melibatkan pencurian data rahasia dari 1,8 juta aplikasi Android.

Penyalahgunaan Claude untuk Pencurian Data

Aktivitas tersebut dilakukan oleh anggota kelompok ShinyHunters yang memanfaatkan program otomatis untuk mengambil data sensitif.

Mereka mengunduh massal file APK dari berbagai toko aplikasi lalu mendekompilasinya untuk mencari informasi penting.

Data yang berhasil dikumpulkan kemudian disalurkan secara langsung ke grup Telegram yang terorganisasi ke dalam banyak kategori.

Aktivitas Kelompok Lain dan Respons Anthropic

Selain pencurian data aplikasi, Anthropic juga menyoroti keterlibatan kelompok mata-mata dari Rusia dan China.

Kelompok Midnight Blizzard asal Rusia memanfaatkan AI untuk mengotomatisasi pengembangan malware serta serangan phishing.

Sementara itu, kelompok GTG-10007 asal China menjalankan operasi spionase siber yang menyasar berbagai organisasi global.

Anthropic menyatakan telah memblokir seluruh akun yang terlibat dan menyesuaikan sistem pengamanan mereka.

Aksi Kelompok Serta Dampak Pelanggaran

Selain pencurian data aplikasi Android, ShinyHunters juga dilaporkan membobol penyedia perangkat lunak dan mencuri data sebesar 1TB serta melakukan peretasan maskapai penerbangan.

Pelaku menggunakan agen AI untuk mengekstrak data dan mendapatkan ribuan set token autentikasi pusat data Microsoft Azure AD hanya dalam waktu sekitar 34 jam.

Kelompok Midnight Blizzard menargetkan lebih dari 20 entitas pemerintahan, pertahanan, diplomatik, intelijen, serta kebijakan luar negeri dengan berbagai modus serangan siber.

Sementara itu, operasi spionase siber oleh kelompok GTG-10007 asal China menargetkan sekitar 50 organisasi di berbagai sektor global termasuk pendidikan, ritel, energi, dan manufaktur.

Anthropic menegaskan bahwa pihaknya telah menangani seluruh aktivitas berbahaya tersebut serta menghubungi pihak berwenang, mitra industri, dan para korban terdampak.