Mantan anggota menggambarkan antusiasme yang kuat terhadap AI di dalam kelompok, dan beberapa menyatakan keterbukaan terhadap senjata dengan korban massal.

Pengamanan AI yang Mudah Dielakkan

Perusahaan AI telah terjebak dalam permainan kucing-dan-tikus selama bertahun-tahun, berjuang untuk menerapkan perubahan yang menghalangi pengguna mendapatkan informasi berbahaya.

Dalam investigasi terbaru, Financial Times dan kelompok keamanan AI Alice dengan mudah menipu model AI Google dan Meta untuk mengungkapkan cara melakukan serangan gas klorin, mencuri informasi kartu kredit, dan menggambarkan cerita pelecehan seksual anak.

"Para teroris tidak menunggu kami membuat AI aman. Mereka sudah bisa menggunakannya sekarang dan melatihnya untuk menyebabkan kerugian," kata Juelich kepada NYT.

Juru bicara Anthropic dan Google menolak bertanggung jawab saat dimintai komentar, hanya mengatakan bahwa mereka memiliki pengamanan yang ketat dan efektif.

>>> Gempa Dangkal M6,4 Kembali Guncang Venezuela

"Kami tahu bahwa aktor jahat tidak akan pernah berhenti mencoba menyalahgunakan alat kami, dan kami akan terus memperkuat pertahanan kami sebagai tanggapan," kata juru bicara OpenAI, Drew Pusateri.