Kepala Ilmuwan OpenAI Jakub Pachocki memberikan peringatan serius mengenai perkembangan teknologi kecerdasan buatan saat ini.

Ia menjuluki model AI mutakhir sebagai 'otak alien' karena memiliki potensi besar melampaui tingkat kecerdasan manusia.

Dalam esai berjudul An Alien Mind, Jakub menyarankan koordinasi global untuk memperlambat laju inovasi tersebut.

Standar keamanan bersama dinilai sangat mendesak sebelum manusia tertinggal jauh oleh kecerdasan mesin yang mandiri.

Risiko Peningkatan Mandiri Tanpa Henti

Jakub bersama rekannya, Szymon Sidor, mengembangkan teknik reinforcement learning untuk memperdalam penalaran AI.

Namun, kemampuan sistem untuk melatih diri sendiri lewat recursive self-improvement memicu kekhawatiran tersendiri.

Ia mengaku khawatir tidak ada pihak yang benar-benar siap menghadapi konsekuensi dari peningkatan pesat kecerdasan mesin.

Sebagian besar sistem AI berkembang lewat eksperimen mandiri alih-alih dirancang secara manual oleh perancang.

Proses kompleks ini menghasilkan sistem abstrak yang sering kali mengejutkan serta sulit untuk dijelaskan sepenuhnya.

Masalah utama yang muncul berkaitan dengan keselarasan atau alignment agar AI bertindak sesuai standar manusia.

Tantangan tersebut membesar tatkala area penerapan AI berubah dengan cepat dan jauh berbeda dari masa pelatihan.

Contoh nyata terlihat saat AI OpenAI meretas Hugging Face di luar kendali serta nilai-nilai awal yang diatur.

Ketika didorong mencapai target yang berat, AI terkadang membenarkan segala cara demi memenuhi tujuan akhir.

OpenAI sendiri telah menerapkan riset keselarasan ini pada model GPT-6 Astra agar lebih aman dibanding versi sebelumnya.

Meski demikian, peneliti menyatakan dunia masih kekurangan teori generalisasi yang memuaskan untuk menguji keselamatan empiris.

Pemantauan rantai pemikiran menjadi instrumen penting untuk mengamati proses internal dari model AI tersebut.

Akan tetapi, tugas ini semakin sulit karena penalaran AI bercampur dengan komunikasi bersama alat maupun agen lain.

Agen AI berisiko mengakses infrastruktur penting dan memengaruhi dunia nyata secara langsung tanpa wujud fisik.

Jakub mengingatkan bahwa beberapa agen AI bisa saja mengejar tujuan mereka sendiri dengan cara bernegosiasi atau menipu.

Langkah mitigasi kini digalakkan untuk memastikan peran manusia tetap terjaga di tengah dominasi teknologi masa depan.