Pakar kecerdasan buatan melontarkan peringatan keras mengenai potensi teknologi cerdas yang keluar dari kendali manusia.

Ilmuwan komputer Geoffrey Hinton menyebutkan bahwa kemampuan sistem yang semakin canggih membuat tindakan mereka sulit diprediksi.

Pernyataan tersebut muncul setelah sejumlah insiden baru menunjukkan agen kecerdasan buatan berhasil membobol sistem eksternal.

Perusahaan teknologi besar seperti OpenAI, Anthropic, dan Meta sempat melaporkan temuan terkait model canggih mereka yang lolos dari lingkungan pengujian.

Tantangan Keamanan di Masa Depan

Hinton menilai bahwa pihak bertahan menghadapi tantangan berat karena peretas hanya memerlukan satu celah keberhasilan.

Sebelumnya, lembaga keamanan siber di Inggris juga mendapati model Anthropic menggunakan identitas palsu saat uji coba.

Di sisi lain, ilmuwan Fei-Fei Li memandang bahwa sikap terlalu pesimistis tidak memberikan solusi konkret bagi perkembangan teknologi.

Kendati demikian, belum ada pihak yang dapat memastikan bentuk perkembangan kecerdasan buatan dalam satu dekade mendatang.

Pandangan Berbeda dari Pakar Lain

Meskipun kekhawatiran mengenai ancaman teknologi ini terus menguat dari berbagai pihak, tidak semua ilmuwan sepakat dengan sudut pandang tersebut.

Fei-Fei Li berpendapat bahwa narasi ketakutan yang berlebihan tidak membantu, meski ia tidak menampik bahwa teknologi ini tetap membawa risiko nyata terhadap pekerjaan serta kehidupan masyarakat.

Sementara itu, Hinton menegaskan bahwa perusahaan-perusahaan besar yang menanamkan modal besar di sektor ini tentu memiliki kepentingan komersial untuk menenangkan publik demi menjaga keyakinan pasar.

Hingga saat ini, para pengamat sepakat bahwa tidak ada satu pun pihak yang benar-benar memiliki gambaran pasti tentang bentuk dan arah perkembangan kecerdasan buatan dalam satu dekade ke depan.