Model kecerdasan buatan Gemini milik Google dilaporkan berhasil mengakses sistem tiga perusahaan nyata saat menjalani pengujian keamanan.

Pengujian tersebut seharusnya berlangsung di lingkungan tertutup namun insiden terjadi ketika Gemini mengikuti tes keamanan bertipe Capture The Flag.

Lingkungan pengujian yang semestinya tidak terhubung ke internet secara tidak sengaja memiliki akses ke jaringan publik.

Nama perusahaan fiktif yang digunakan dalam simulasi ternyata sama dengan nama sebuah perusahaan nyata di internet.

Gemini menemukan dua target dengan nama serupa dan memilih target di internet sebelum mencoba masuk menggunakan kredensial lemah.

Model tersebut berhasil memperoleh akses setelah beberapa kali mencoba layanan daring milik perusahaan sasaran tersebut.

Pencarian password yang bocor di internet

Dalam dua percobaan berikutnya, Gemini memakai metode berbeda dengan mencari nama perusahaan melalui jaringan internet.

Model itu menemukan dua repositori kode yang dapat diakses secara publik oleh siapa saja.

Repositori tersebut ternyata menyimpan informasi login mulai dari akun, password, hingga key yang tak sengaja diunggah pengembang.

Gemini memanfaatkan kredensial tersebut untuk mencoba mengakses sistem back-end dari dua perusahaan lainnya.

Upaya itu berhasil dan membuat model tersebut masuk ke sistem perusahaan tanpa instruksi langsung dari manusia.

Google menegaskan bahwa Gemini hanya memanfaatkan password lemah dan kredensial yang bocor ke repositori publik.

Pihak Google tidak sepakat jika kejadian tersebut disebut sebagai kecerdasan buatan yang lepas kendali.

Google menyebut model berhenti setelah mengenali bahwa target yang diakses merupakan perusahaan nyata.

Namun penjelasan tersebut mendapat kritik karena tiga perusahaan itu tidak pernah memberikan izin sebelumnya.