OpenAI mengumumkan penerapan pendekatan text provenance sebagai respons terhadap regulasi EU AI Act di Uni Eropa.

Peraturan tersebut mewajibkan penyedia kecerdasan buatan generatif untuk membuat teks buatan mesin dapat diidentifikasi.

Cara Kerja Teknologi textGrain

Teknologi watermark bernama textGrain menyisipkan sinyal statistik tak kasat mata ke dalam teks yang dihasilkan model.

Sistem ini menghubungkan pembuatan token ke pseudorandomness menggunakan optimal transport pada blok kosakata.

OpenAI menyatakan bahwa performa deteksi bervariasi tergantung pada panjang teks, topik, dan penyuntingan.

Tahapan Peluncuran Global dan Eropa

Fitur watermark teks akan diperkenalkan secara bertahap untuk pengguna ChatGPT dan Codex di Uni Eropa.

Selain itu, pelanggan API di seluruh dunia dapat memilih opsi teks bermarka air pada model pilihan mereka.

Batasan Deteksi dan Kualitas Output

Evaluasi menunjukkan bahwa tingkat deteksi menurun jika teks mengalami penggantian sinonim atau pada materi seperti matematika.

OpenAI menegaskan bahwa watermark tidak dapat memastikan kontribusi manusia, kepemilikan, identitas pengguna, maupun akurasi informasi.

Tidak ada perbedaan performa yang signifikan antara teks dengan atau tanpa watermark pada model Astra.

OpenAI juga mengintegrasikan standar C2PA dan Content Credentials untuk gambar serta audio demi mendukung pelacakan asal konten secara komprehensif.

Ketersediaan Fitur Watermark Teks

Peluncuran textGrain akan dilakukan bertahap di kawasan Uni Eropa untuk semua paket ChatGPT dan Codex.

Pelanggan API global dapat mengaktifkan fitur ini secara opt-in, sementara detektor khusus awalnya diberikan secara terbatas kepada peneliti dan organisasi ahli yang disetujui.