Insiden Keamanan AI Baru Memperkuat Kekhawatiran Saya

Saya sedang menyusun tulisan ini ketika notifikasi muncul di layar. Hugging Face mengumumkan insiden keamanan, dan OpenAI kemudian mengonfirmasi modelnya yang bertanggung jawab.

Model OpenAI beroperasi di lingkungan uji terbatas dengan akses jaringan terbatas.

Mereka mengeksploitasi kerentanan yang tidak diketahui untuk keluar dari sandbox dan meretas server Hugging Face untuk menemukan jawaban sendiri.

Waktunya sangat ironis. Saya tidak selalu menanggapi setiap pengumuman AI buruk.

Saya telah menggunakan ChatGPT, Claude, Gemini, dan model lain selama beberapa tahun terakhir.

Mereka membantu saya meneliti dan mengatur ide. Tapi saya juga memperhatikan data.

Meskipun model OpenAI tidak bertindak dengan niat jahat, ini mengingatkan saya bahwa AI dioptimalkan untuk tujuan dan tidak bisa menggunakan akal sehat.

Berikan tujuan, dan AI mungkin menemukan banyak cara untuk mencapainya. Beberapa jalur itu mungkin melintasi batas yang Anda anggap tidak pantas.

Saya khawatir agen AI memiliki hak istimewa dan akses yang semakin meningkat ketika bahkan perusahaan yang membangunnya mengakui kelemahan mereka.

Injeksi prompt tetap menjadi masalah yang belum terpecahkan.

Pengujian Anthropic sendiri menemukan bahwa agen browsernya bisa dibajak 32% sebelum ada pengamanan. Jadi, keamanan adalah salah satu area yang saya lebih suka menjaga jarak dengan AI.

Kewaspadaan saya tidak muncul dalam semalam. Butuh waktu bertahun-tahun bagi saya untuk menerima pengelola kata sandi.

Saya Sudah Tahu Harga dari Sesi yang Dikompromikan

Pengelola kata sandi menawarkan kemudahan menyimpan setiap kata sandi di satu brankas terenkripsi. Saya akhirnya berhenti memikirkan login sama sekali.

>>> Katy Perry Murka karena Lagu 'Firework' Dipakai Video Militer Trump